【环境部署】安装flash-attention

远瞻。2025-12-02 15:13
bash 复制代码 
FlashAttention：具有 IO 感知能力的快速且内存高效的精确注意力机制
https://github.com/Dao-AILab/flash-attention

安装方式

pip 安装失败，需要官方下载whl，离线安装，下载地址

bash 复制代码 
# linux版本
https://github.com/Dao-AILab/flash-attention/releases?page=1
# Windows版本
https://github.com/kingbri1/flash-attention/releases
  • cu12torch2.4->代表安装了torch2.4+cu12的版本
  • cp310->代表python版本
相关推荐
承渊政道3 天前
【从零开始大模型开发与微调:基于PyTorch与ChatGLM】(从注意力到自回归生成:彻底理解Transformer解码器)
pytorch·回归·transformer·chatglm·注意力机制·解码器
thesky1234564 天前
27届大模型面试准备（三十六）：注意力机制演进与 KV Cache 优化——从 MHA 到 MLA 的显存之战
大模型·注意力机制·mha·gqa·mqa·kv cache·mla
skywalk81634 天前
pypi 的yank 是什么意思?
pip
chen_zn955 天前
《VLA 系列》π0.5 + KI | 知识隔离 | 离散与连续动作联合训练 | 论文与源码解析
人工智能·深度学习·注意力机制·vla
Lee_jerome7 天前
python神经网络编程入门（三十五）——Transformer 整体架构——一张图看懂全貌
nlp·transformer·encoder·注意力机制·decoder·交叉注意力·self-attention
Lee_jerome8 天前
python神经网络编程入门（三十三）——多头注意力（Multi-Head Attention）
深度学习·nlp·transformer·注意力机制·多头注意力·self-attention
Lee_jerome11 天前
python神经网络编程入门（三十）——Transformer 从 RNN 到注意力：模型为什么需要“瞄一眼“
rnn·深度学习·nlp·transformer·attention·注意力机制·序列建模
@Mr_LiuYang11 天前
《深入理解 AI Agent：设计原理与工程实践 》实验2-2 2-7 大模型注意力权重分布可视化
人工智能·大模型·agent·注意力机制
Albart57511 天前
【已解决】ModuleNotFoundError_ No module named ‘xxx’ 模块导入失败终极解决
python·pip·环境配置·后端开发·bug解决·模块报错·python导包失败
10mAh11 天前
Python 环境彻底不乱：uv、pip、venv、Conda 怎么选？Windows 项目迁移与锁版本实战
python·pip·uv
热门推荐
01国内可直接用、免费额度/永久免费的大模型API清单（含 SiliconFlow、火山、阿里、智谱、百度、Kimi、DeepSeek、DMXAPI 等）02GitHub 镜像站点03微信历史版本含下载地址（ Windows PC | 安卓 | MAC ）及设置微信不更新042026 国产 AI 大模型横评：DeepSeek、通义千问、Kimi、文心一言、星火、豆包谁更能打？05历年考研数学一、数学二、数学三真题试卷及答案PDF06Agnes AI 免费 API 接入指南：文本、生图、生视频，一套接口全免费07AI 编程 IDE 全景解析 2026：Agent 全面接管开发链路08VSCode+CodeX扩展，无法启动092026年7月AI圈大地震：GPT-5.6被政府限制、Claude入驻Slack、Anthropic自研芯片10如何新建文件夹？ 电脑新建文件夹的4种方法