windows操作系统安装配置CUDA12.3和cuDNN

在window上使用一些AI工具时,经常遇到需要CUDA加速支持的情况,但因为 CUDA、cudnn、显卡驱动等贱人问题,经常出现各种错误,而网络上搜到的知识很多过于陈旧,因此特地整理记录下,方便以后使用。

首先要确定你使用的是 英伟达显卡(NVIDIA),否则安装了也无法使用。

安装 CUDA

  1. 更新显卡驱动到最新版,然后执行 nvidia-smi,查看允许安装的最大 CUDA 版本号,不可安装大于此处显示的 CUDA,比如下图,允许安装的最大 cuda 版本号,比如此处显示 11.8,那么就不能安装 cuda12.1
  1. 首先打开 developer.nvidia.com/cuda-downlo... 网址,根据你的操作系统版本,选择对应的CUDA版本,比如下图,选择的是 x86_64 window 10操作系统,然后点击exe[local]

注意:如果当前版本大于你计算机允许的版本,比如执行了nvidia-smi后,允许的是11.8,但此处是12.3,那么不可安装,你需要点击 developer.nvidia.com/cuda-toolki... 该链接,下载旧版本

下载完成后双击打开

然后点ok,然后在下图中,选择"自定义安装",然后下一步

在自定义安装选项界面中只选中 "CUDA",将其他的选中都去掉,如下图

安装完成后,默认将安装在 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1 目录下,如果你安装的是11.8 版本,那么最后的v12.1改为 v11.8即可,以此类推。如果安装成功但是没有这个目录,请检查是否在C:\Program Files(x86)\NVIDIA GPU Computing Toolkit\CUDA\v12.1目录下.

安装 cudnn

  1. 在CUDA安装完成后,打开网址 developer.nvidia.com/rdp/cudnn-d... ,该网址需要登录,如果没有账号就先注册后登录。打开后,填写一份问卷,如图。
  1. 提交后到达下载页面 ,根据上一步你安装的 CUDA 版本,安装对应的cudnn,比如你安装的是 CUDA12.1,那么此处选择下载 cudnn for cuda12.x
  1. 下载后,解压将会得到如图3个文件夹

将这3个文件夹复制到安装的CUDA目录 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1

测试是否成功

  1. 执行 nvcc -V ,成功会返回cuda版本号
相关推荐
人工智能培训13 分钟前
大模型与传统小模型、传统NLP模型的核心差异解析
人工智能·深度学习·神经网络·机器学习·生成对抗网络
Terrence Shen3 小时前
大模型部署工具对比
人工智能·深度学习·计算机视觉
枫叶林FYL3 小时前
项目九:异步高性能爬虫与数据采集中枢 —— 基于 Crawl<sub>4</sub>AI 与 Playwright 的现代化数据采集平台 项目总览
爬虫·python·深度学习·wpf
灰灰勇闯IT4 小时前
torchtitan-npu:在昇腾集群上训练大模型
深度学习
大模型最新论文速读4 小时前
PreFT:只在 prefill 时使用 LoRA,推理速度翻倍效果不降
论文阅读·人工智能·深度学习·机器学习·自然语言处理
Miss_min4 小时前
128K长序列数据生成
开发语言·python·深度学习
Elastic 中国社区官方博客5 小时前
快 12 倍的 Elasticsearch 向量索引:使用 GPU 和 CPU 分层部署 NVIDIA cuVS
大数据·人工智能·elasticsearch·搜索引擎·ai·全文检索·nvidia
li星野5 小时前
Transformer 核心模块详解:多头注意力、前馈网络与词嵌入
人工智能·深度学习·transformer
动物园猫5 小时前
面向智慧牧场的牛行为识别数据集分享(适用于YOLO系列深度学习分类检测任务)
深度学习·yolo·分类
Project_Observer6 小时前
使用Zoho Projects AI自动项目管理
大数据·数据库·人工智能·深度学习·机器学习·深度优先