Ubuntu 20.04, cuda 12.1版本安装flash attention 2教程

在安装flash attention2的过程中,采了好多坑。因此记录一个帖子,写一下怎么安装flash attention 2。

首先,确认自己环境里的各个配置版本是啥,比如我的环境中:

python:3.10.0

cuda: 12.1

torch:2.5.1

然后,去flash attention 2的github官网,找对应的版本,网页链接:https://github.com/Dao-AILab/flash-attention/tags

然后开始找你对应的版本,黄框要和你的环境对应:

然后,我这边没有直接从官网下,而是找到对应版本后,在终端下载:

bash 复制代码
pip install flash-attn==2.7.4.post1 --no-build-isolation

下载完毕后,运行,看效果:

相关推荐
数智工坊12 小时前
Zotero自建Ubuntu WebDAV附件同步方案(完美解决存储空间不足)
linux·运维·ubuntu
ltl13 小时前
HTTP/3 实战:从 QUIC 到 H3 的完整请求链路
linux
ltl14 小时前
POSIX 文件锁:flock、fcntl 与 NFS 上的工程陷阱
linux
ltl14 小时前
CUDA 生态:cuBLAS、cuDNN、NCCL、Triton、CUTLASS
linux
饺子大魔王的男人14 小时前
CentOS部署Cockpit:图形化查看系统、日志与服务状态
linux·运维·centos
不会就选b14 小时前
Linux之信号(二)
linux·运维·服务器
我是小灰灰吖15 小时前
QT在线安装器使用指南:从下载到配置完整教程
linux·qt·ubuntu
GlueNa2SiO315 小时前
第十八章 Linux故障排查与恢复
linux·服务器·笔记·学习
寺中人16 小时前
Linux 基础命令入门实战教程:从零掌握常用操作,新手快速上手
linux·运维·服务器·shell·linux 命令·linux 基础教程·linux 入门
小张成长计划..17 小时前
【Linux】18:基础IO
linux·运维·服务器