安装完flash-attn,使用时报错undefined symbol

去flash attention官网下载安装包, 注意需要根据自己的torch版本,cuda版本(可以选择低于自己cuda版本的) 和python版本进行选择。

  • 如果whl文件名上包含参数abiTRUE,则会报错。需要安装包含abiFALSE的whl文件。

卸载:卸载原先报错的flash-attn

bash 复制代码
pip uninstall flash-attn

下载:选择abiFALSE版本.!!!!!!!!!!

bash 复制代码
wget https://github.com/Dao-AILab/flash-attention/releases/download/v2.7.0.post2/flash_attn-2.7.0.post2+cu12torch2.2cxx11abiFALSE-cp39-cp39-linux_x86_64.whl

安装: 注意加 --no-build-isolation

bash 复制代码
pip install flash_attn-2.7.0.post2+cu12torch2.2cxx11abiFALSE-cp39-cp39-linux_x86_64.whl --no-build-isolation
相关推荐
悟纤8 小时前
Suno AI 音乐节奏设计完全指南 | Suno高级篇 | 第23篇
人工智能·suno·suno ai·suno api·ai music
EasyGBS8 小时前
EasyGBS的金融网点全场景智能可视化监管方案设计
大数据·人工智能
laplace01238 小时前
第八章 agent记忆与检索 下
数据库·人工智能·笔记·agent·rag
应用市场8 小时前
Intel Core Ultra 9做目标检测够用吗?CPU+GPU+NPU三路并发实测
人工智能·目标检测·计算机视觉
CoderOnly8 小时前
SFT后训练32B-LLM的一些观察
人工智能·大模型
拓端研究室8 小时前
2026中国医美护肤产品行业发展与未来趋势蓝皮书:射频、胶原蛋白、PDRN与肉毒素|附90+份报告PDF、数据、可视化模板汇总下载
大数据·人工智能
imbackneverdie8 小时前
2026国自然项目申请指南发布,今年有什么新举措?
人工智能·科研·博士·国自然·ai工具·国家自然科学基金
m0_737302589 小时前
智能化:AI 驱动的全生命周期管理
人工智能
人工智能AI技术9 小时前
【Agent从入门到实践】11 执行模块:Agent如何“完成动作”
人工智能
一招定胜负9 小时前
基于OpenCV的银行卡号识别项目实战
人工智能·opencv·计算机视觉