Ubuntu 20.04, cuda 12.1版本安装flash attention 2教程

在安装flash attention2的过程中,采了好多坑。因此记录一个帖子,写一下怎么安装flash attention 2。

首先,确认自己环境里的各个配置版本是啥,比如我的环境中:

python:3.10.0

cuda: 12.1

torch:2.5.1

然后,去flash attention 2的github官网,找对应的版本,网页链接:https://github.com/Dao-AILab/flash-attention/tags

然后开始找你对应的版本,黄框要和你的环境对应:

然后,我这边没有直接从官网下,而是找到对应版本后,在终端下载:

bash 复制代码
pip install flash-attn==2.7.4.post1 --no-build-isolation

下载完毕后,运行,看效果:

相关推荐
m0_7436975926 分钟前
DNS的反向域名的相关问题
linux
Android系统攻城狮1 小时前
Linux FFmpeg深度解析之avcodec_parameters_from_context调用流程与实战(十六)
linux·运维·ffmpeg·音视频进阶·ffmpeg音视频·车载音视频进阶
思想觉悟1 小时前
SEAndroid实战
android·linux·c++
前进吧-程序员2 小时前
C++20 协程实战:手写 Task、单线程调度器与 awaiter 的三个钩子
linux
Android系统攻城狮2 小时前
Linux FFmpeg深度解析之avcodec_alloc_context3调用流程与实战(十四)
linux·运维·ffmpeg·车载音视频·音视频进阶·ffmpeg音视频进阶
自由彩虹2 小时前
靶场通关15--bossplayersctf
linux·服务器·网络·安全·web安全·网络安全
叼烟扛炮2 小时前
Linux 学习笔记(四十五):Web 安全基石——Cookie、Session 与 HTTPS 原理解析
linux·前端·网络·笔记·学习·tcp/ip·安全
菌菌的快乐生活2 小时前
Rufus + Ubuntu 24.04 Server(中山大学镜像)通用安装教程
ubuntu
Linux_cy3 小时前
nginx 502 排查手册:九种原因分类、定位命令与检查顺序
linux·运维·服务器·网络·数据库·nginx·ssh
椒颜皮皮虾྅3 小时前
模型部署不再卡在环境上:DeploySharp 四大推理引擎与 Windows/Linux 离线交付实战
linux·运维·开发语言·人工智能·windows·计算机视觉·cuda