vLLM-Ascend operator torchvision::nms does not exist 问题解决

在vLLM Ascend费劲安装完毕后,要拉起任务时,突然显示如下报错

如果卸载重新安装则会安装新的torch,会卸载你本来就费劲安装好的torch_npu。

别急还有的救!

以2026-03-21的版本为例,vllm-ascend的commit: 80a42657173395741753753b392895ad71595b9f。在torch和torch_npu都是2.9.0时,依次执行以下脚本:

shell 复制代码
pip uninstall torchvision torchaudio -y
pip install --upgrade pip
pip install "cmake>=3.26" wheel packaging ninja "setuptools-scm>=8" numpy
pip install torchvision==0.24.0 --extra-index-url https://download.pytorch.org/whl/cpu

这里需要安装与你的torch相匹配的torchvision版本!

之前的错误很大程度上是因为你安装到了cuda版本的torchvision。

相关推荐
零域码客1 分钟前
RAG 和微调解决的是同一类问题吗?从大模型底层全链路拆解两者的本质与选择逻辑
大数据·人工智能·机器学习·模型微调·fine-tuning·检索增强生成·llm 架构
唐欢弯弯3 分钟前
选 Agent 还是数字员工?一张封装判据表,从技术要件到岗位边界逐项对齐
人工智能
lucas_AI6 分钟前
刚发大模型五天就被英伟达看上:Reflection AI 的 250 亿估值,买的是模型还是站队?
人工智能
用户83145509803111 分钟前
如一 Agent 架构解读(二):上下文工程——为模型构造它唯一的现实
人工智能·架构
揽秀亭长12 分钟前
音频如何转换为乐谱?扒谱流程与关键技术分析
人工智能·音视频
丙亮15 分钟前
ECC:一个Agent操作系统的深度拆解
人工智能
财迅通Ai15 分钟前
开拓全球合作新机遇 科兴制药亮相CPHI Milan 2026
大数据·人工智能·科兴制药
kaixin_啊啊18 分钟前
【零基础学AI】第 7 章课后练习与答案
人工智能
AI日报派送佬25 分钟前
Ultralytics YOLO 模型训练技巧与最佳实践
人工智能·python·深度学习·yolo·机器学习·计算机视觉
2501_9139817827 分钟前
Semtech与国产LoRa芯片对比:SX1276/SX1262/LR2021与ASR6601解析
人工智能·lora芯片