在vLLM Ascend费劲安装完毕后,要拉起任务时,突然显示如下报错
如果卸载重新安装则会安装新的torch,会卸载你本来就费劲安装好的torch_npu。
别急还有的救!
以2026-03-21的版本为例,vllm-ascend的commit: 80a42657173395741753753b392895ad71595b9f。在torch和torch_npu都是2.9.0时,依次执行以下脚本:
shell
pip uninstall torchvision torchaudio -y
pip install --upgrade pip
pip install "cmake>=3.26" wheel packaging ninja "setuptools-scm>=8" numpy
pip install torchvision==0.24.0 --extra-index-url https://download.pytorch.org/whl/cpu
这里需要安装与你的torch相匹配的torchvision版本!
之前的错误很大程度上是因为你安装到了cuda版本的torchvision。