小白1分钟安装flash-attn

  1. 先在终端查看自己的python、torch、cuda的版本

  2. 在网站上查找对应的文件,下载下来:

Releases · Dao-AILab/flash-attention · GitHub

比如:我是python3.12、torch2.4、cuda 12.1、False

所以我下载的是这个文件:

【python 3.12,下载第三个文件,文件名:cp312对应的python3.12】

  1. 把这个文件传到你的文件夹里,然后直接

pip install flash_attn-2.8.3.post1+cu12torch2.4cxx11abiFALSE-cp312-cp312-linux_x86_64.whl.zip【也就是pip install 文件名】就ok啦!

相关推荐
小柯南敲键盘5 小时前
跨马翻译:批量图片与视频字幕翻译,支持智能抠图
大数据·人工智能·python·音视频
Brilliantwxx5 小时前
【Linux】 软件包管理器(yum)+ Vim使用
linux·运维·服务器·开发语言·编辑器·vim
雪的季节5 小时前
Python 线程同步与异步编程 全解析
java·开发语言
再渊5 小时前
基因归因到底怎么计算的?
python·深度学习·机器学习
520拼好饭被践踏5 小时前
JAVA+Agent学习day22
java·开发语言·后端·学习
E_ICEBLUE6 小时前
Python 拆分 Excel 文件:使用 Spire.XLS 实现按工作表、行、列和条件拆分
python·excel
笨蛋不要掉眼泪6 小时前
Java虚拟机:堆的参数配置
java·开发语言·jvm
冰暮流星6 小时前
javascript之date对象
开发语言·javascript·ecmascript
aiqianji6 小时前
有哪些稳定的AI短篇小说写作软件可以推荐?
人工智能·python
Wang's Blog6 小时前
Go-Zero项目开发17: IM私聊功能实现与消息存储设计
开发语言·后端·golang