【环境部署】安装flash-attention

bash 复制代码
FlashAttention:具有 IO 感知能力的快速且内存高效的精确注意力机制
https://github.com/Dao-AILab/flash-attention

安装方式

pip 安装失败,需要官方下载whl,离线安装,下载地址

bash 复制代码
# linux版本
https://github.com/Dao-AILab/flash-attention/releases?page=1
# Windows版本
https://github.com/kingbri1/flash-attention/releases
  • cu12torch2.4->代表安装了torch2.4+cu12的版本
  • cp310->代表python版本
相关推荐
hui函数18 小时前
如何解决 pip install 编译报错 ‘cl.exe’ not found(缺少 VS C++ 工具集)问题
开发语言·c++·pip
hui函数19 小时前
Python系列Bug修复|如何解决 pip install 安装报错 invalid command ‘bdist_wheel’(缺少 wheel)问题
python·bug·pip
hui函数20 小时前
Python系列Bug修复|如何解决 pip install -r requirements.txt 私有索引未设为 trusted-host 导致拒绝 问题
python·bug·pip
hui函数21 小时前
Python系列Bug修复|如何解决 pip install 安装报错 Backend ‘setuptools.build_meta’ 不可用 问题
python·bug·pip
hui函数1 天前
Python系列Bug修复|如何解决 pip install -r requirements.txt 私有仓库认证失败 401 Unauthorized 问题
python·bug·pip
hui函数1 天前
Python系列Bug修复|如何解决 pip install -r requirements.txt 子目录可编辑安装缺少 pyproject.toml 问题
python·bug·pip
hui函数2 天前
如何解决 pip install 编译报错 g++: command not found(缺少 C++ 编译器)问题
开发语言·c++·pip
hui函数2 天前
Python系列Bug修复|如何解决 pip install -e . 安装报错 “后端不支持可编辑安装(PEP 660)” 问题
python·bug·pip
hui函数2 天前
如何解决 pip install 网络报错 403 Forbidden(访问被阻止)问题
网络·pip
一尘之中2 天前
在Ubuntu 22.04中高效使用pip:从入门到精通
ubuntu·pip·ai写作