[linux] AttributeError: module ‘transformer_engine‘ has no attribute ‘pytorch‘

BUG AttributeError: module 'transformer_engine' has no attribute 'pytorch' · Issue #696 · NVIDIA/Megatron-LM · GitHub

其中这个答案并没有解决我的问题:

import flash_attn_2_cuda as flash_attn_cuda

Traceback (most recent call last):

File "<stdin>", line 1, in <module>

ImportError: /mnt/nas/kexin/cv/Open-Sora/xformers/third_party/flash-attention/flash_attn_2_cuda.cpython-310-x86_64-linux-gnu.so: undefined symbol: _ZN3c105ErrorC2ENS_14SourceLocationENSt7__cxx1112basic_stringIcSt11char_traitsIcESaIcEEE

import的flash_attn是xformers的包。。。

cd到目录下 /mnt/nas/kexin/cv/Open-Sora/xformers/third_party/flash-attention/flash_attn_2_cuda.cpython-310-x86_64-linux-gnu.so。

重新安装xformers

报错:

Could not build wheels for xformers, which is required to install pyproject.toml-based projects

复制代码
pip3 install -U xformers --index-url https://download.pytorch.org/whl/cu121
相关推荐
颜进强3 分钟前
Embedding 模型介绍:热门模型对比与应用场景
前端·后端·ai编程
颜进强4 分钟前
LanceDB 基础使用:用 TypeScript 完成第一次向量检索
前端·后端·ai编程
xyphf_和派孔明5 分钟前
企业级微前端项目完整创建步骤,第二步:配置主应用
前端
默_笙11 分钟前
🔑 让 AI 学会"读"网页:我用 Cheerio 爬了一篇掘金文章,然后切成小块存进了向量库
前端·javascript
颜进强11 分钟前
Ollama 从入门到实践:本地模型运行、API 调用
前端·后端·ai编程
颜进强16 分钟前
Embedding 基础使用:用 Ollama 和 LangChain.js 生成文本向量
前端·后端·ai编程
颜进强20 分钟前
Vector Store 入门:什么是向量数据库,主流产品如何选择
前端·后端·ai编程
code bean22 分钟前
【C#】 主构造函数(Primary Constructors)的来龙去脉
开发语言·c#
小柯南敲键盘30 分钟前
AI批量翻译Temu商品标题的Python实践
开发语言·人工智能·python
逆境不可逃33 分钟前
Java JUC 同步工具类一次讲透:CountDownLatch、CyclicBarrier、Semaphore、Phaser 与 AQS 共享模式
java·开发语言·python