安装完flash-attn,使用时报错undefined symbol

去flash attention官网下载安装包, 注意需要根据自己的torch版本,cuda版本(可以选择低于自己cuda版本的) 和python版本进行选择。

  • 如果whl文件名上包含参数abiTRUE,则会报错。需要安装包含abiFALSE的whl文件。

卸载:卸载原先报错的flash-attn

bash 复制代码
pip uninstall flash-attn

下载:选择abiFALSE版本.!!!!!!!!!!

bash 复制代码
wget https://github.com/Dao-AILab/flash-attention/releases/download/v2.7.0.post2/flash_attn-2.7.0.post2+cu12torch2.2cxx11abiFALSE-cp39-cp39-linux_x86_64.whl

安装: 注意加 --no-build-isolation

bash 复制代码
pip install flash_attn-2.7.0.post2+cu12torch2.2cxx11abiFALSE-cp39-cp39-linux_x86_64.whl --no-build-isolation
相关推荐
Agent手记3 分钟前
成本数据多系统自动采集与分析实操指南:基于2026大模型Agent的超自动化实践
运维·人工智能·microsoft·ai·自动化
陈天伟教授8 分钟前
图解人工智能(34)深度学习面临的挑战
人工智能·深度学习·神经网络·cnn
拉卡拉开放平台10 分钟前
支付系统在文旅场景的进阶之路:聚合收单、分账与自动化对账
大数据·人工智能·自动化
jovi_AI电报26 分钟前
ChatGPT 对话太多,之前聊的好东西找不到了
人工智能·chatgpt
老鱼说AI27 分钟前
统计学习方法第一章讲解:统计与监督学习概率
人工智能·学习·学习方法
山川绿水29 分钟前
Bugku——原神祈愿
人工智能·网络安全·claude
gjhave31 分钟前
jetson上trtexec模型转换
人工智能·机器学习
互联网推荐官32 分钟前
2026上海GEO优化服务商综合实力深度评测
大数据·人工智能·技术分享·geo·上海
Dfreedom.38 分钟前
算子融合:从硬件本质到性能飞跃的深度学习优化艺术
人工智能·深度学习·gpu·gpu加速·模型加速·算子融合·模型计算
QYR_1142 分钟前
4.3% 年复合增速:2026全球救生衣灯市场格局与海事合规发展报告
大数据·人工智能