安装CUDA以及GPU版本的pytorch

使用pytorch进行深度学习的时候,往往想用GPU进行运算来提高速度。于是搜索便知道了CUDA。

下面给出一个自检的建议:

  1. 检查cuda的版本是否适配自己的GPU。

打开NVDIA控制面板,点击左下角"系统信息",然后就可以看到NVDIA GPU的详细信息,其中就包含了CUDA的版本。在官网安装合适版本的cuda-toolkit。

  1. 安装了cuda,但是命令行输入nvcc -V 报错显示没有nvcc

这时候可能没有将CUDA添加到环境变量。检查系统变量中是否包含了CUDA_PATH ,以及CUDA_PATH_Vx.x , 以及PATH中是否包含了cuda的bin目录。

  1. 在命令行输入nvcc -V 可以正常运行,但是在python中使用print(torch.cuda.is_available()) 显示的是False。 这时候考虑torch安装错误。

(直接使用pip install torch 会安装cpu版本的torch,导致无法使用cuda)

卸载原先的torch,pip uninstall torch

然后在PyTorch官网找到正确版本进行下载安装。我的CUDA版本是12.6,PyTorch官网的最新版本支持CUDA12.4 安装命令如下:

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124

此时在python中再运行print(torch.cuda.is_available())就会显示True了。

相关推荐
DO_Community3 分钟前
裸金属 vs. 虚拟化 GPU 服务器:AI 训练与推理应该怎么选
运维·服务器·人工智能·llm·大语言模型
科技峰行者6 分钟前
华为发布Atlas 900 DeepGreen AI服务器:单机柜100PF算力重构AI训练基础设施
服务器·人工智能·华为·aigc·gpu算力
weixin_3077791317 分钟前
应对不规则负载的异步ML模型服务AWS架构设计
人工智能·深度学习·机器学习·云计算·aws
PieroPc24 分钟前
用python streamlit sqlite3 写一个聊天室
python·streamlit·聊天室
低头不见27 分钟前
策略模式上下文管理
windows·python·策略模式
Xander W28 分钟前
基于K8s集群的PyTorch DDP 框架分布式训练测试(开发机版)
人工智能·pytorch·分布式·python·深度学习·kubernetes
Wah-Aug32 分钟前
基于 PyTorch 的 UNet 与 NestedUNet 图像分割
人工智能·pytorch·计算机视觉
云和数据.ChenGuang33 分钟前
感知机之争,杀死神经网络的“人工智能之父”
人工智能·深度学习·神经网络
rengang6635 分钟前
10-神经网络的工作原理:分析神经网络如何学习和推理
人工智能·深度学习·神经网络·学习
无风听海37 分钟前
神经网络之向量降维
人工智能·神经网络·机器学习