[linux] AttributeError: module ‘transformer_engine‘ has no attribute ‘pytorch‘

[BUG] AttributeError: module 'transformer_engine' has no attribute 'pytorch' · Issue #696 · NVIDIA/Megatron-LM · GitHub

其中这个答案并没有解决我的问题:

import flash_attn_2_cuda as flash_attn_cuda

Traceback (most recent call last):

File "<stdin>", line 1, in <module>

ImportError: /mnt/nas/kexin/cv/Open-Sora/xformers/third_party/flash-attention/flash_attn_2_cuda.cpython-310-x86_64-linux-gnu.so: undefined symbol: _ZN3c105ErrorC2ENS_14SourceLocationENSt7__cxx1112basic_stringIcSt11char_traitsIcESaIcEEE

import的flash_attn是xformers的包。。。

cd到目录下 /mnt/nas/kexin/cv/Open-Sora/xformers/third_party/flash-attention/flash_attn_2_cuda.cpython-310-x86_64-linux-gnu.so。

重新安装xformers

报错:

Could not build wheels for xformers, which is required to install pyproject.toml-based projects

复制代码
pip3 install -U xformers --index-url https://download.pytorch.org/whl/cu121
相关推荐
揣晓丹2 分钟前
JAVA实战开源项目:校园失物招领系统(Vue+SpringBoot) 附源码
java·开发语言·vue.js·spring boot·开源
吃没吃5 分钟前
vue2.6-源码学习-Vue 核心入口文件分析
前端
Carlos_sam5 分钟前
Openlayers:海量图形渲染之图片渲染
前端·javascript
XH2766 分钟前
Android Retrofit用法详解
前端
鸭梨大大大8 分钟前
Spring Web MVC入门
前端·spring·mvc
你的人类朋友8 分钟前
MQTT协议是用来做什么的?此协议常用的概念有哪些?
javascript·后端·node.js
吃没吃10 分钟前
vue2.6-源码学习-Vue 初始化流程分析 (src/core/instance/init.js)
前端
XH27612 分钟前
Android Room用法详解
前端
霍徵琅26 分钟前
Groovy语言的物联网
开发语言·后端·golang
木木黄木木1 小时前
css炫酷的3D水波纹文字效果实现详解
前端·css·3d