windows操作系统安装配置CUDA12.3和cuDNN

在window上使用一些AI工具时,经常遇到需要CUDA加速支持的情况,但因为 CUDA、cudnn、显卡驱动等贱人问题,经常出现各种错误,而网络上搜到的知识很多过于陈旧,因此特地整理记录下,方便以后使用。

首先要确定你使用的是 英伟达显卡(NVIDIA),否则安装了也无法使用。

安装 CUDA

  1. 更新显卡驱动到最新版,然后执行 nvidia-smi,查看允许安装的最大 CUDA 版本号,不可安装大于此处显示的 CUDA,比如下图,允许安装的最大 cuda 版本号,比如此处显示 11.8,那么就不能安装 cuda12.1
  1. 首先打开 developer.nvidia.com/cuda-downlo... 网址,根据你的操作系统版本,选择对应的CUDA版本,比如下图,选择的是 x86_64 window 10操作系统,然后点击exelocal

注意:如果当前版本大于你计算机允许的版本,比如执行了nvidia-smi后,允许的是11.8,但此处是12.3,那么不可安装,你需要点击 developer.nvidia.com/cuda-toolki... 该链接,下载旧版本

下载完成后双击打开

然后点ok,然后在下图中,选择"自定义安装",然后下一步

在自定义安装选项界面中只选中 "CUDA",将其他的选中都去掉,如下图

安装完成后,默认将安装在 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1 目录下,如果你安装的是11.8 版本,那么最后的v12.1改为 v11.8即可,以此类推。如果安装成功但是没有这个目录,请检查是否在C:\Program Files(x86)\NVIDIA GPU Computing Toolkit\CUDA\v12.1目录下.

安装 cudnn

  1. 在CUDA安装完成后,打开网址 developer.nvidia.com/rdp/cudnn-d... ,该网址需要登录,如果没有账号就先注册后登录。打开后,填写一份问卷,如图。
  1. 提交后到达下载页面 ,根据上一步你安装的 CUDA 版本,安装对应的cudnn,比如你安装的是 CUDA12.1,那么此处选择下载 cudnn for cuda12.x
  1. 下载后,解压将会得到如图3个文件夹

将这3个文件夹复制到安装的CUDA目录 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1

测试是否成功

  1. 执行 nvcc -V ,成功会返回cuda版本号
相关推荐
AndrewHZ5 小时前
【LLM技术全景】规模定律与模型演进:为什么模型越大越强?
人工智能·gpt·深度学习·语言模型·llm·openai·规模定律
手写码匠6 小时前
从零实现 Prompt 工程引擎:结构化提示、自动优化与多轮自省体系
人工智能·深度学习·算法·aigc
哈伦20196 小时前
第十二章 深度学习基础 案例:MLP实现银行单据手写数字识别
人工智能·深度学习·图像识别
lqqjuly6 小时前
MLA — 多头潜在注意力深度解析
深度学习·神经网络·算法
Black蜡笔小新6 小时前
企业AI算力工作站DLTM深度学习推理工作站零代码私有化重塑企业AI落地新模式
人工智能·深度学习
啦啦啦_99997 小时前
4. Transformer_4_输出部分
人工智能·深度学习·transformer
DogDaoDao8 小时前
【GitHub】VoxCPM2 实战全解析:原理、部署与效果对比
深度学习·大模型·github·音频·语音模型·tss·文本生成语音
不考研当牛马9 小时前
Django 框架 深度学习
python·深度学习·django
春日见9 小时前
决策规划控制面经汇总
人工智能·深度学习·算法·机器学习·自动驾驶
啦啦啦_999910 小时前
4. Transformer_3_解码器部分
android·深度学习·transformer