【环境部署】安装flash-attention

bash 复制代码
FlashAttention:具有 IO 感知能力的快速且内存高效的精确注意力机制
https://github.com/Dao-AILab/flash-attention

安装方式

pip 安装失败,需要官方下载whl,离线安装,下载地址

bash 复制代码
# linux版本
https://github.com/Dao-AILab/flash-attention/releases?page=1
# Windows版本
https://github.com/kingbri1/flash-attention/releases
  • cu12torch2.4->代表安装了torch2.4+cu12的版本
  • cp310->代表python版本
相关推荐
Yolanda_20224 天前
在vscode终端中可使用pip,但是cmd终端中找不到命令 pip问题的解决
vscode·python·conda·pip
Yolanda_20224 天前
pip安装jieba报错:由于目标计算器积极拒绝,无法连接
pip
lxw18449125146 天前
Python uv 完整使用教程
python·conda·pip·uv
我登哥MVP6 天前
Headroom 深度指南:AI Agent 上下文压缩实战
人工智能·python·深度学习·神经网络·机器学习·自然语言处理·pip
草莓熊Lotso10 天前
【LangChain】输出解析器全解:让大模型输出从 “聊天” 变 “机器可读”
服务器·数据库·python·langchain·pip
Li Ming&16 天前
Python办公自动化:利用Python批量将PDF转换为图片文件
python·pdf·pip
程序喵大人17 天前
解密 Transformer 的核心——注意力机制
人工智能·深度学习·transformer·注意力机制
weigangwin18 天前
Graphiti 时间知识图谱:从 pip 安装到事实有效期验证
人工智能·知识图谱·pip
梦想不只是梦与想19 天前
Python 官方包管理器pip
python·pip
无糖冰可乐2120 天前
安装wsl2,并链接Windows上的vscode运行项目
pytorch·vscode·python·pip