4070Super安装GPU版本pytorch记录

一些啐啐念。

安装LLaMA-Factory时遇到pytorch安装成CPU版本。网上找了一圈攻略,都是下载龟速。挂梯子也一样。最后在尝试用pytorch官网的生成的命令进行安装时,突然奇想,直接把安装日志显示的下载链接复制到浏览器下载,发现可以满速下载(需挂梯子)。(估计是代理的模式不能加速命令终端的下载??)

https://pytorch.org/get-started/locally/#windows-verification

注意1:以下教程安装的 CUDA 并非系统级 CUDA(System-Wide CUDA)。如果您不清楚什么是系统级 CUDA,请查看教程 NVIDIA CUDA Toolkit 与 PyTorch 安装中的 CUDA 的区别

https://docs.infini-ai.com/posts/where-is-cuda.html

注意2:PyTorch 提供了带有 CUDA 和 cuDNN 支持的预编译版本。不需要另外再安装CUDA Toolkit 和cuDNN。

一、查看显卡CUDA版本

方法一:在cmd用命令查看

bash 复制代码
nvidia-smi

方法二:在NVIDIA控制面板查看系统信息-组件-3D设置。

二、在Pytorch官网获取安装命令行。

https://pytorch.org/get-started/locally/#windows-verification

卸载CPU版本并重新安装GPU版本的Pytorch

先卸载CPU版本。

bash 复制代码
pip uninstall torch

再粘贴官网的命令

bash 复制代码
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126

https://download.pytorch.org/whl/cu126/torch-2.6.0%2Bcu126-cp310-cp310-win_amd64.whl#sha256=eda7768f0a2ad9da3513abf60ff5c13049e7e2ec74ed4cfcd4736a8523ab1f89



重新安装Pytorch。

bash 复制代码
pip install "E:\Python Wheel\torch-2.6.0+cu126-cp310-cp310-win_amd64.whl"

校验是否安装的GPU版本。

python 复制代码
import torch

print(torch.cuda.is_available())
print("CUDA Version:", torch.version.cuda)
print(torch.cuda.get_device_name(0))

同时对LLaMA-Factory的基础安装做一下校验,输入以下命令获取训练相关的参数指导, 否则说明库还没有安装成功

bash 复制代码
# 安装命令
pip install -e .[metrics]
# 校验命令
llamafactory-cli train -h
# 模型训练全链路的一站式WebUI board
llamafactory-cli webui


总算配置完成了!!!

相关推荐
Sui_Network5 分钟前
Sui Stack Messaging SDK:为 Web3 打造可编程通信
大数据·人工智能·科技·web3·去中心化·区块链
Lxinccode8 分钟前
python(42) : 监听本地文件夹上传到服务器指定目录
服务器·开发语言·python·文件上传服务器·监听文件上传服务器
金井PRATHAMA9 分钟前
GraphRAG对自然语言处理中深层语义分析的革命性影响与未来启示
人工智能·自然语言处理·知识图谱
人工智能培训10 分钟前
Transformer-位置编码(Position Embedding)
人工智能·深度学习·大模型·transformer·embedding·vision
丰年稻香20 分钟前
神经网络二分类任务详解:前向传播与反向传播的数学计算
人工智能·神经网络·分类
Lethehong30 分钟前
DeepSeek-V3.1-Terminus:蓝耘API+CherryStudio实测国产最新开源模型,推理能力竟让我后背发凉
人工智能·大模型·deepseek·蓝耘元生代·蓝耘maas·ai ping
咖啡星人k34 分钟前
AI 大模型驱动的开源知识库搭建系统 PandaWiki的网页挂件机器人教程
人工智能·机器人·开源
QYR_1134 分钟前
机器人定位器市场报告:2025-2031 年行业增长逻辑与投资机遇解析
大数据·人工智能
我是个菜鸡.41 分钟前
视觉/深度学习/机器学习相关面经总结(3)(持续更新)
人工智能·深度学习·机器学习
小oo呆41 分钟前
【自然语言处理与大模型】RAG发展过程中的三个范式
人工智能·自然语言处理