【环境部署】安装flash-attention

bash 复制代码
FlashAttention:具有 IO 感知能力的快速且内存高效的精确注意力机制
https://github.com/Dao-AILab/flash-attention

安装方式

pip 安装失败,需要官方下载whl,离线安装,下载地址

bash 复制代码
# linux版本
https://github.com/Dao-AILab/flash-attention/releases?page=1
# Windows版本
https://github.com/kingbri1/flash-attention/releases
  • cu12torch2.4->代表安装了torch2.4+cu12的版本
  • cp310->代表python版本
相关推荐
万粉变现经纪人2 天前
如何解决 pip install shapely 报错 GEOS C 库未找到 问题
c语言·开发语言·python·pycharm·bug·pandas·pip
这张生成的图像能检测吗2 天前
(论文速读)MOMENT:一组开放的时间序列基础模型
计算机视觉·注意力机制·时序模型
大连好光景3 天前
conda管理包还是pip管理包
python·conda·pip
万粉变现经纪人3 天前
如何解决 pip install cx_Oracle 报错 未找到 Oracle Instant Client 问题
数据库·python·mysql·oracle·pycharm·bug·pip
万粉变现经纪人3 天前
如何解决 pip install pillow-simd 报错 需要 AVX2/特定编译器 支持 问题
python·scrapy·beautifulsoup·aigc·pandas·pillow·pip
Dev7z4 天前
基于注意力机制LSTM的温度预测系统设计与实现
人工智能·lstm·注意力机制·温度预测系统
这张生成的图像能检测吗4 天前
(论文速读)PatchTST:通道无关补丁时间序列变压器
人工智能·深度学习·神经网络·计算机视觉·注意力机制·vit·时序模型
YMWM_5 天前
‘pip install -e .‘ and ‘pip install .‘
pip·pip install
請你喝杯Java5 天前
Python 后端开发:从虚拟环境、pip、requirements.txt 到项目启动
开发语言·python·pip
Hello.Reader5 天前
PySpark 安装保姆级教程pip、Conda、手动安装、Spark Connect 一次讲透(一)
python·spark·conda·pip