【环境部署】安装flash-attention

bash 复制代码
FlashAttention:具有 IO 感知能力的快速且内存高效的精确注意力机制
https://github.com/Dao-AILab/flash-attention

安装方式

pip 安装失败,需要官方下载whl,离线安装,下载地址

bash 复制代码
# linux版本
https://github.com/Dao-AILab/flash-attention/releases?page=1
# Windows版本
https://github.com/kingbri1/flash-attention/releases
  • cu12torch2.4->代表安装了torch2.4+cu12的版本
  • cp310->代表python版本
相关推荐
开发者联盟league3 天前
linux普通用户使用pip安装模块
linux·python·pip
九成宫3 天前
WSL2 网络优化配置:提升Git克隆与包下载速度
windows·笔记·代理模式·pip·wsl
这张生成的图像能检测吗5 天前
(论文速读)TSSA:令牌统计自注意力机制
人工智能·机器学习·注意力机制·长序列建模·视觉分类
m0_617493947 天前
pip安装zxing-cpp报错“returned non-zero exit status 1”的完美解决方案
pip
咕噜咕噜啦啦8 天前
RTX5090配置DGL
pytorch·python·conda·pip
西西弗Sisyphus8 天前
从零实现Transformer:第 9 部分 - 推理(Inference )
transformer·attention·注意力机制·注意力·decoder·self-attention
小何code9 天前
人工智能【第23篇】Transformer模型详解:Attention Is All You Need
深度学习·bert·transformer·注意力机制
小何code10 天前
人工智能【第22篇】Seq2Seq模型与注意力机制:机器翻译的基石
人工智能·深度学习·自然语言处理·机器翻译·注意力机制·seq2seq
马优晨10 天前
Pip 和 Conda 是什么关系?
conda·pip·pip 和 conda 关系·conda和pip的关系·pip和conda是什么
金玉满堂@bj12 天前
# Groovy Pipeline 详解
pip