在window上使用一些AI工具时,经常遇到需要CUDA加速支持的情况,但因为 CUDA、cudnn、显卡驱动等贱人问题,经常出现各种错误,而网络上搜到的知识很多过于陈旧,因此特地整理记录下,方便以后使用。
首先要确定你使用的是 英伟达显卡(NVIDIA),否则安装了也无法使用。
安装 CUDA
- 更新显卡驱动到最新版,然后执行
nvidia-smi
,查看允许安装的最大 CUDA 版本号,不可安装大于此处显示的 CUDA,比如下图,允许安装的最大 cuda 版本号,比如此处显示 11.8,那么就不能安装 cuda12.1

- 首先打开 developer.nvidia.com/cuda-downlo... 网址,根据你的操作系统版本,选择对应的CUDA版本,比如下图,选择的是 x86_64 window 10操作系统,然后点击exe[local]

注意:如果当前版本大于你计算机允许的版本,比如执行了nvidia-smi
后,允许的是11.8,但此处是12.3,那么不可安装,你需要点击 developer.nvidia.com/cuda-toolki... 该链接,下载旧版本
下载完成后双击打开

然后点ok,然后在下图中,选择"自定义安装",然后下一步

在自定义安装选项界面中只选中 "CUDA",将其他的选中都去掉,如下图

安装完成后,默认将安装在 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1
目录下,如果你安装的是11.8 版本,那么最后的v12.1
改为 v11.8
即可,以此类推。如果安装成功但是没有这个目录,请检查是否在C:\Program Files(x86)\NVIDIA GPU Computing Toolkit\CUDA\v12.1
目录下.
安装 cudnn
- 在CUDA安装完成后,打开网址 developer.nvidia.com/rdp/cudnn-d... ,该网址需要登录,如果没有账号就先注册后登录。打开后,填写一份问卷,如图。

- 提交后到达下载页面 ,根据上一步你安装的 CUDA 版本,安装对应的cudnn,比如你安装的是 CUDA12.1,那么此处选择下载
cudnn for cuda12.x

- 下载后,解压将会得到如图3个文件夹

将这3个文件夹复制到安装的CUDA目录 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1
测试是否成功
- 执行
nvcc -V
,成功会返回cuda版本号
