vLLM-Ascend operator torchvision::nms does not exist 问题解决

在vLLM Ascend费劲安装完毕后,要拉起任务时,突然显示如下报错

如果卸载重新安装则会安装新的torch,会卸载你本来就费劲安装好的torch_npu。

别急还有的救!

以2026-03-21的版本为例,vllm-ascend的commit: 80a42657173395741753753b392895ad71595b9f。在torch和torch_npu都是2.9.0时,依次执行以下脚本:

shell 复制代码
pip uninstall torchvision torchaudio -y
pip install --upgrade pip
pip install "cmake>=3.26" wheel packaging ninja "setuptools-scm>=8" numpy
pip install torchvision==0.24.0 --extra-index-url https://download.pytorch.org/whl/cpu

这里需要安装与你的torch相匹配的torchvision版本!

之前的错误很大程度上是因为你安装到了cuda版本的torchvision。

相关推荐
金伟API10245 小时前
如何从零打造一个极简的DeepSeek-R1大模型
人工智能·ai
江畔柳前堤5 小时前
大语言模型分布式训练:从并行策略到万卡工程的系统梳理
人工智能·分布式·深度学习·算法·目标检测·机器学习·语言模型
Shockang5 小时前
智能体环路工程实战
人工智能
美摄科技5 小时前
美摄美颜特效SDK Skill:以AI赋能智能视音频新视界
人工智能
Web3_Daisy6 小时前
Pump.fun 与 FOMO 竞争背后的 Meme 市场变局
大数据·人工智能·金融·web3·区块链
AI创界者6 小时前
MiniMax-H3 本地一键部署整合包:8G 显存玩转文图生视频、视频参考、角色替换与超分补帧全流程
人工智能·深度学习
江畔柳前堤6 小时前
HBM:大语言模型时代的「算力血液」——从内存墙到带宽革命的深度拆解
服务器·人工智能·windows·目标检测·语言模型·自然语言处理·软件工程
美摄科技6 小时前
视频一键成片SDK Skill:AI智能分析与语义理解
人工智能
fthux7 小时前
装闭 RenoPit 源码解析(05):FastAPI与Celery如何执行AI装修分析
人工智能·ai·开源·github·open source·renopit
格数致用8 小时前
数据库设计与表结构详解|信息化项目全流程管理系统源码逐行精讲(五)
人工智能·政务·数据库设计·外键约束