安装cuda、cudnn、Pytorch(用cuda和cudnn加速计算)

目录

写在前面

安装cuda

1、了解cuda版本

2、安装cuda

3、测试是否安装成功

安装cudnn

1、安装cuda后还要安装cudnn?

2、cudnn下载

安装pytorch-gpu

1、配置新的虚拟环境

2、安装Pytorch

3、小插曲&安装方式二

4、检测是否安装成功

5、增加到Pycharm的编译器里

参考


写在前面

最近几个月都在忙着毕业的事,好一阵子没写代码了。今天准备跑个demo,发现报错 AssertionError: Torch not compiled with CUDA enabled

不知道啥情况,因为之前有cuda环境,能用gpu加速,看这个报错信息应该是Pytorch下没有可用的cuda,不知道咋没了。因而决定从头开始配置一下环境,以此博文记录一下~


安装cuda

1、了解cuda版本

打开英伟达控制面板 -> 左下角"系统信息" -> 组件

可以看到:我的电脑所能兼容的最高cuda版本为12.5

2、安装cuda

进入官网:CUDA Toolkit Archive | NVIDIA Developer,选择合适的版本进行安装

因为我的电脑所能兼容的最高cuda版本为12.5,所以我选择了12.4进行下载安装,同时我的电脑系统为win11,如下:

安装时,选择"自定义(高级)" -> 取消勾选CUDA下的Visual Studio Integration

我选择的安装位置为F:\NVIDIA GPU Computing Toolkit\CUDA\v12.4。安装完成后检查一下是否有环境变量,没有的话手动添加一下

3、测试是否安装成功

在cmd里输入nvcc -V,出现类似下图的界面就ok了~


安装cudnn

1、安装cuda后还要安装cudnn?

  • CUDA:是一个通用的并行计算平台和编程模型,用于利用 NVIDIA GPU 进行通用计算。CUDA 提供了一种编写 GPU 加速代码的方式,使开发者可以利用 GPU 的强大计算能力进行高性能计算
  • cuDNN:是构建在 CUDA 之上的专用库,专注于深度学习领域的优化。它使用 CUDA 来执行底层的并行计算,但提供了更高层的、针对深度学习任务优化的操作

安装 CUDA 可以利用 GPU 的并行计算能力来加速通用计算任务,包括但不限于深度学习。然而,深度学习中的许多计算操作(如卷积、反向传播等)需要特殊优化,**直接使用 CUDA 编写这些操作的效率可能不如使用专门的库,如 cuDNN 或其他深度学习框架。**如果目标是使用 GPU 来加速深度学习任务,除了安装 CUDA,还需要安装 cuDNN。这是因为 cuDNN 提供了高度优化的深度学习操作,可以显著提高训练和推理的速度。

2、cudnn下载

网站CUDA Deep Neural Network (cuDNN) | NVIDIA Developer,点击Download cuDNN Library

将下载下来的cudnn文件解压,并用解压出的文件直接替换cuda安装目录下的文件


安装pytorch-gpu

1、配置新的虚拟环境

打开Anaconda Prompt,利用conda配置一个新的虚拟环境并激活

可以看到我的Python版本是3.8

故输入以下两个命令:

bash 复制代码
conda create -n torch_gpu python=3.8
conda activate torch_gpu

看到前面的base变为torch_gpu即可

2、安装Pytorch

官网PyTorch,选择自己的配置后得到一串命令,输入上面的命令行中

3、小插曲&安装方式二

安装的时候报错了,报错信息 CondaError: Downloaded bytes did not match Content-Length

查了一下原因说是使用conda 安装包下载的时候速度较慢,导致下载timeout而终止,从而未完成整个安装包的下载。

于是尝试第二种安装方法:国内镜像网站安装,网址https://download.pytorch.org/whl/torch_stable.html

  • 选择合适的版本,注意一定要选择cu开头的才是gpu版本
  • torch后面的数字是torch版本(我下的是2.3.1),cp后是对应的python版本(我是3.8),还要注意操作系统(我是win)

下载torchvision的时候要特别注意torch与torchvision的版本对应关系,参考GitHub - pytorch/vision: Datasets, Transforms and Models specific to Computer Vision

所以我要下载0.18版本的torchvision,其他跟上面保持一致,如下:

下载完成后得到以下两个whl文件:

在Pycharm终端,进入到该路径下运行:

bash 复制代码
cd C:\Users\11842\Downloads
conda activate torch_gpu
pip install "torch-2.3.1+cu118-cp38-cp38-win_amd64.whl" --trusted-host pypi.tuna.tsinghua.edu.cn
pip install "torchvision-0.18.1+cpu-cp38-cp38-win_amd64.whl" --trusted-host pypi.tuna.tsinghua.edu.cn

如下图:

等待两个均成功安装即可

4、检测是否安装成功

输入python进入终端:

python 复制代码
import torch
print(torch.cuda.is_available())

返回True,即pytorch-gpu安装成功

5、增加到Pycharm的编译器里

想重新用cuda加速跑demo时,发现Pycharm的编译器里还没有刚刚新创建的虚拟环境。如下图所示,File -> Settings -> Python Interpreter:

手动添加:点击上图的+,选择第三个System Interpreter,添加上下图的地址D:\Anaconda\envs\torch_gpu\python.exe,并重命名一下

这样就大功告成啦~

可以看到demo可以成功跑起来啦~


参考

1050ti显卡安装cuda_1050ti cuda-CSDN博客

Pycharm搭建CUDA,Pytorch教程(匹配版本,安装,搭建全保姆教程)_cuda12.3对应的pytorch版本-CSDN博客

相关推荐
STLearner8 小时前
ICML 2026 | 时间序列(Time Series)论文总结(3)【因果,可解释性,不规则时序,表示学习,benchmar
大数据·论文阅读·人工智能·深度学习·神经网络·机器学习
大鱼>9 小时前
AI+快递分拣:视觉识别+自动分拣+异常检测
人工智能·深度学习·算法·机器学习
Token炼金师9 小时前
架构的下一程:堆参数退潮,提效率登场 —— GQA、MTP、原生多模态与稀疏融合
人工智能·深度学习·llm
m沐沐1 天前
【深度学习】dlib 人脸关键点检测
人工智能·深度学习·opencv·计算机视觉·pycharm·人脸识别·关键点检测
逻辑君1 天前
认知神经科学研究报告【20260112】
人工智能·深度学习·数学建模·量子计算
Lambert-Wu1 天前
常用激活函数总结
人工智能·深度学习·机器学习
pokemen邪11 天前
PyTorch KernelAgent 源码解读 ---(6)--- Composer
人工智能·pytorch·composer
卡梅德生物科技小能手1 天前
卡梅德生物:一文读懂核心炎症靶点TNF(肿瘤坏死因子)
经验分享·深度学习·生活
依然范特东1 天前
动手学深度学习笔记--数据操作、线性代数
人工智能·笔记·深度学习
感性的随1 天前
【机器人 / 强化学习】LWD(Learning while Deploying)机器人持续进化的强化学习框架
人工智能·深度学习·机器人