通过update-alternatives可以实现cuda的多版本切换

先安装多版本的cuda

在 Ubuntu 20.04/22.04 原生系统中安装 CUDA

步骤 1：确认显卡和驱动

nvidia-smi

如果 nvidia-smi 报错，先安装驱动：

sudo apt update
sudo apt install nvidia-driver-535
sudo reboot

步骤 2：安装 CUDA Toolkit（以 CUDA 12.5 为例）

wget https://developer.download.nvidia.com/compute/cuda/12.5.0/local_installers/cuda_12.5.0_555.42.02_linux.run
sudo sh cuda_12.5.0_555.42.02_linux.run

如果你已提前装好NVIDIA Driver, 安装时不要勾选安装驱动，只选 CUDA Toolkit 即可

添加到update-alternatives

sudo update-alternatives --install /usr/local/cuda cuda /usr/local/cuda-10.0 10
sudo update-alternatives --install /usr/local/cuda cuda /usr/local/cuda-10.2 20

切换版本

sudo update-alternatives --config cuda

输入数字切换版本，可以发现能够自由切换成功