安装完flash-attn,使用时报错undefined symbol

去flash attention官网下载安装包, 注意需要根据自己的torch版本,cuda版本(可以选择低于自己cuda版本的) 和python版本进行选择。

  • 如果whl文件名上包含参数abiTRUE,则会报错。需要安装包含abiFALSE的whl文件。

卸载:卸载原先报错的flash-attn

bash 复制代码
pip uninstall flash-attn

下载:选择abiFALSE版本.!!!!!!!!!!

bash 复制代码
wget https://github.com/Dao-AILab/flash-attention/releases/download/v2.7.0.post2/flash_attn-2.7.0.post2+cu12torch2.2cxx11abiFALSE-cp39-cp39-linux_x86_64.whl

安装: 注意加 --no-build-isolation

bash 复制代码
pip install flash_attn-2.7.0.post2+cu12torch2.2cxx11abiFALSE-cp39-cp39-linux_x86_64.whl --no-build-isolation
相关推荐
Angeldream1239 分钟前
第 4 章 医学影像预处理
图像处理·人工智能·python·医学影像·医学影像处理
打工仔折腾 AI35 分钟前
用 Dashlet 把极空间 NAS 服务入口整理成统一导航首页的实践
java·开发语言·人工智能·后端·python·rpc·ai agent 实战
野生码农AI实战44 分钟前
【无标题】
大数据·人工智能
桃西西呀1 小时前
搜「怎么做接口限流」,向量库却把「怎么做缓存」的段落递了上来
人工智能·llm·ai编程
像风一样自由20201 小时前
56.实战PostgreSQL-pgvector-FastAPI构建轻量级RAG
数据库·人工智能·postgresql·大模型·fastapi·智能体
2401_832298101 小时前
人工智能时代,我们如何与机器同行
人工智能
田里的水稻1 小时前
PyTorch_TensorBoard展示
人工智能·pytorch·python·深度学习·神经网络
环境栈笔记1 小时前
指纹浏览器 WebRTC 怎么设置?从 ICE 候选、代理出口到功能验证
前端·人工智能·后端·自动化
枯木◊靠推文躺平版1 小时前
Work Agent深度解读:AI长程任务的执行机制与落地边界
人工智能
安睿杰翻译(上海)有限公司1 小时前
涉外商务合同翻译项目复盘:高风险条款、质控链路与交付校验清单
人工智能