安装CUDA以及GPU版本的pytorch

使用pytorch进行深度学习的时候,往往想用GPU进行运算来提高速度。于是搜索便知道了CUDA。

下面给出一个自检的建议:

  1. 检查cuda的版本是否适配自己的GPU。

打开NVDIA控制面板,点击左下角"系统信息",然后就可以看到NVDIA GPU的详细信息,其中就包含了CUDA的版本。在官网安装合适版本的cuda-toolkit。

  1. 安装了cuda,但是命令行输入nvcc -V 报错显示没有nvcc

这时候可能没有将CUDA添加到环境变量。检查系统变量中是否包含了CUDA_PATH ,以及CUDA_PATH_Vx.x , 以及PATH中是否包含了cuda的bin目录。

  1. 在命令行输入nvcc -V 可以正常运行,但是在python中使用print(torch.cuda.is_available()) 显示的是False。 这时候考虑torch安装错误。

(直接使用pip install torch 会安装cpu版本的torch,导致无法使用cuda)

卸载原先的torch,pip uninstall torch

然后在PyTorch官网找到正确版本进行下载安装。我的CUDA版本是12.6,PyTorch官网的最新版本支持CUDA12.4 安装命令如下:

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124

此时在python中再运行print(torch.cuda.is_available())就会显示True了。

相关推荐
非优秀程序员2 小时前
第12章 烧钱无底洞!!!不烧就死,烧了也不知道啥时候死|《互联网产品恩仇录》
人工智能
Zelman9453 小时前
第06章-交互与观察动作空间
人工智能
冬奇Lab3 小时前
开源项目第258期:Harness² —— Google Research 的「递归式 Agent Harness 优化」,模型权重不动,只改 Agent 的外壳
人工智能·开源
字节跳动视频云技术团队4 小时前
每两家头部手机厂商就有一家选它:火山引擎如何成为 AI 手机助手的“隐形底座”?
人工智能
泯泷5 小时前
像项目经理一样指挥 AI 团队:管理者模式
人工智能·llm·agent
京东云开发者5 小时前
双11囤Token火了:京东搜索量暴涨7倍,AI生产力成新刚需
人工智能
ahccqw5 小时前
OpenCV 车辆数量统计
人工智能·opencv·计算机视觉
人工智能AI技术5 小时前
LangGraph 本地 build 频频翻车,最终在服务器跑通流式对话
人工智能
Flynn Liang6 小时前
同一需求三套写法:用 Spring AI、LangChain4j、AgentScope Java 各实现一个带工具调用的 RAG 助手(实战对比)
java·人工智能·大模型·架构设计·spring ai·langchain4j·agentscope