华为NPU 310P上面更新驱动和cann并安装vllm和pytorch

目标驱动CANN 9.0.0

首先获取sudo权限。（本文默认sudo安装）

1）文件下载

你需要下载上面的文件，下载地址：

社区版-固件与驱动-昇腾社区

社区版资源中心-昇腾社区

把上面的5个文件都下载完以后。依次安装执行

./Ascend-hdk-<chip_type>-npu-driver_<version>_linux-<arch>.run --full --install-for-all

reboot

bash ./Ascend-cann-toolkit_9.0.0_linux-aarch64.run --install

bash ./Ascend-cann-310p-ops_9.0.0_linux-aarch64.run --install

bash ./Ascend-cann-nnal_9.0.0_linux-aarch64.run --install

然后

source /usr/local/Ascend/nnal/atb/set_env.sh

source /usr/local/Ascend/cann/set_env.sh

这个时候npu-smi info,看到

检查一下版本号有没有更新。更新了就是成功了。

查看cann版本信息：

cat /usr/local/Ascend/cann/$(uname -m)-linux/ascend*_install.info

检查一下cann和pytorch的对照关系，参考这里：

PyTorch Ascend安装部署-昇腾社区

可以看到cann9支持的torch是2.10,2,9,2,8和2.7

现在是2026年7月2号，建议优先装pytorch2.10 最新的版本容易出问题。

然后可以docker pull 了

docker pull quay.io/ascend/vllm-asend:v0.18.0-310p

或者按照自己的需求，去安装不同的容器

镜像地址：ascend/vllm-ascend · Quay

310p不支持bf16格式，所以加载最新的模型，容易报错。

Tensor self not implemented for DT_BFLOAT16, should be in dtype support list $DT_FLOAT,DT_FLOAT16,DT_INT8,DT_INT16,DT_INT32,DT_INT64,DT_UINT8,DT_BOOL,DT_DOUBLE,$