1.输入nvidia-smi查看可以支持安装的cuda最大版本

2.cuda与cudnn版本的选择
核心原则
-
向下兼容性:较新的 cuDNN 通常兼容旧版 CUDA,但反之不成立
-
框架依赖:优先考虑深度学习框架(TensorFlow/PyTorch)的版本要求
-
硬件限制:GPU 架构决定支持的最高 CUDA 版本
详细选择策略
2.1根据深度学习框架选择
框架 | 推荐配置 | 验证命令 |
---|---|---|
PyTorch | CUDA 12.x + cuDNN ≥8.9 | python -c "import torch; print(torch.version.cuda)" |
TensorFlow | CUDA 12.x + cuDNN ≥8.9 | python -c "import tensorflow as tf; print(tf.sysconfig.get_build_info())" |
MXNet | CUDA 11.8 + cuDNN 8.6 | nvidia-smi 查看驱动版本 |
2.2 根据 GPU 架构选择
GPU 架构 | 最大支持 CUDA | 推荐组合 |
---|---|---|
Ada (RTX 40系) | 12.4+ | CUDA 12.4 + cuDNN 9.1 |
Ampere (A100/A40) | 12.x | CUDA 12.3 + cuDNN 8.9 |
Turing (RTX 20系) | 11.8 | CUDA 11.8 + cuDNN 8.7 |
Pascal (GTX 10系) | 11.0 | CUDA 11.0 + cuDNN 8.0 |
⚠️ 注意:RTX 30/40系显卡必须使用 CUDA 11.1+,旧版本无法识别
3.安装方式参考之前发的windows安装cuda cudnn
我选择12.4cuda 和9.1cudnn(提前安装好显卡驱动)
bash
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin
sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/12.4.0/local_installers/cuda-repo-ubuntu2204-12-4-local_12.4.0-550.54.14-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu2204-12-4-local_12.4.0-550.54.14-1_amd64.deb
sudo cp /var/cuda-repo-ubuntu2204-12-4-local/cuda-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cuda-toolkit-12-4
bash
wget https://developer.download.nvidia.com/compute/cudnn/9.1.0/local_installers/cudnn-local-repo-ubuntu2204-9.1.0_1.0-1_amd64.deb
sudo dpkg -i cudnn-local-repo-ubuntu2204-9.1.0_1.0-1_amd64.deb
sudo cp /var/cudnn-local-repo-ubuntu2204-9.1.0/cudnn-*-keyring.gpg /usr/share/keyrings/
sudo apt-get updatesudo apt-get -y install cudnn