windows操作系统安装配置CUDA12.3和cuDNN

在window上使用一些AI工具时,经常遇到需要CUDA加速支持的情况,但因为 CUDA、cudnn、显卡驱动等贱人问题,经常出现各种错误,而网络上搜到的知识很多过于陈旧,因此特地整理记录下,方便以后使用。

首先要确定你使用的是 英伟达显卡(NVIDIA),否则安装了也无法使用。

安装 CUDA

  1. 更新显卡驱动到最新版,然后执行 nvidia-smi,查看允许安装的最大 CUDA 版本号,不可安装大于此处显示的 CUDA,比如下图,允许安装的最大 cuda 版本号,比如此处显示 11.8,那么就不能安装 cuda12.1
  1. 首先打开 developer.nvidia.com/cuda-downlo... 网址,根据你的操作系统版本,选择对应的CUDA版本,比如下图,选择的是 x86_64 window 10操作系统,然后点击exe[local]

注意:如果当前版本大于你计算机允许的版本,比如执行了nvidia-smi后,允许的是11.8,但此处是12.3,那么不可安装,你需要点击 developer.nvidia.com/cuda-toolki... 该链接,下载旧版本

下载完成后双击打开

然后点ok,然后在下图中,选择"自定义安装",然后下一步

在自定义安装选项界面中只选中 "CUDA",将其他的选中都去掉,如下图

安装完成后,默认将安装在 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1 目录下,如果你安装的是11.8 版本,那么最后的v12.1改为 v11.8即可,以此类推。如果安装成功但是没有这个目录,请检查是否在C:\Program Files(x86)\NVIDIA GPU Computing Toolkit\CUDA\v12.1目录下.

安装 cudnn

  1. 在CUDA安装完成后,打开网址 developer.nvidia.com/rdp/cudnn-d... ,该网址需要登录,如果没有账号就先注册后登录。打开后,填写一份问卷,如图。
  1. 提交后到达下载页面 ,根据上一步你安装的 CUDA 版本,安装对应的cudnn,比如你安装的是 CUDA12.1,那么此处选择下载 cudnn for cuda12.x
  1. 下载后,解压将会得到如图3个文件夹

将这3个文件夹复制到安装的CUDA目录 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1

测试是否成功

  1. 执行 nvcc -V ,成功会返回cuda版本号
相关推荐
deephub4 分钟前
用 PyTorch 实现 LLM-JEPA:不预测 token,预测嵌入
人工智能·pytorch·python·深度学习·大语言模型
飞鹰5116 分钟前
深度学习算子CUDA优化实战:从GEMM到Transformer—Week4学习总结
c++·人工智能·深度学习·学习·transformer
工程师老罗18 分钟前
Pytorch如何验证模型?
人工智能·pytorch·深度学习
zhangfeng113332 分钟前
Ollama 支持模型微调但是不支持词库,支持RAG,go语言开发的大模型的推理应用,
人工智能·深度学习·golang
m0_603888711 小时前
FineInstructions Scaling Synthetic Instructions to Pre-Training Scale
人工智能·深度学习·机器学习·ai·论文速览
EmmaXLZHONG1 小时前
Reinforce Learning Concept Flow Chart (强化学习概念流程图)
人工智能·深度学习·机器学习·流程图
薛定谔的猫19821 小时前
十三.调用 BERT 中文文本情感分析交互式推理模型训练好的
人工智能·深度学习·bert
小鸡吃米…1 小时前
机器学习 - 高斯判别分析(Gaussian Discriminant Analysis)
人工智能·深度学习·机器学习
应用市场1 小时前
深度学习图像超分辨率技术全面解析:从入门到精通
人工智能·深度学习
普马萨特2 小时前
自动地址识别技术综述(面向应用)
深度学习