4070Super安装GPU版本pytorch记录

查尔char2025-03-03 13:50

一些啐啐念。

安装LLaMA-Factory时遇到pytorch安装成CPU版本。网上找了一圈攻略，都是下载龟速。挂梯子也一样。最后在尝试用pytorch官网的生成的命令进行安装时，突然奇想，直接把安装日志显示的下载链接复制到浏览器下载，发现可以满速下载（需挂梯子）。（估计是代理的模式不能加速命令终端的下载？？）

https://pytorch.org/get-started/locally/#windows-verification

注意1：以下教程安装的 CUDA 并非系统级 CUDA（System-Wide CUDA）。如果您不清楚什么是系统级 CUDA，请查看教程 NVIDIA CUDA Toolkit 与 PyTorch 安装中的 CUDA 的区别。

https://docs.infini-ai.com/posts/where-is-cuda.html

注意2：PyTorch 提供了带有 CUDA 和 cuDNN 支持的预编译版本。不需要另外再安装CUDA Toolkit 和cuDNN。

一、查看显卡CUDA版本

方法一：在cmd用命令查看

bash 复制代码

nvidia-smi

方法二：在NVIDIA控制面板查看系统信息-组件-3D设置。

二、在Pytorch官网获取安装命令行。

https://pytorch.org/get-started/locally/#windows-verification

卸载CPU版本并重新安装GPU版本的Pytorch

先卸载CPU版本。

bash 复制代码

pip uninstall torch

再粘贴官网的命令

bash 复制代码

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126

https://download.pytorch.org/whl/cu126/torch-2.6.0%2Bcu126-cp310-cp310-win_amd64.whl#sha256=eda7768f0a2ad9da3513abf60ff5c13049e7e2ec74ed4cfcd4736a8523ab1f89

重新安装Pytorch。

bash 复制代码

pip install "E:\Python Wheel\torch-2.6.0+cu126-cp310-cp310-win_amd64.whl"

校验是否安装的GPU版本。

python 复制代码

import torch

print(torch.cuda.is_available())
print("CUDA Version:", torch.version.cuda)
print(torch.cuda.get_device_name(0))

同时对LLaMA-Factory的基础安装做一下校验，输入以下命令获取训练相关的参数指导, 否则说明库还没有安装成功

bash 复制代码

# 安装命令
pip install -e .[metrics]
# 校验命令
llamafactory-cli train -h
# 模型训练全链路的一站式WebUI board
llamafactory-cli webui

总算配置完成了！！！