Windows安装GPU版本的pytorch详细教程

文章目录

chatGLM2-6B

ChatGLM2-6B版本要装pytorch2.0,而且要2.0.1 ,因此CUDA不能用12.0 ,也不能用10.0 ,只能用11.x 版本。

安装教程
  1. pip install直接下载安装
    官网: https://pytorch.org/get-started/locally/

进入官网,选择CUDA版本和其他信息,选好后复制Run this Command栏的命令,注意如果pip3报错的话,需要将pip3改为pip。如果页面上没有对应CUDA版本,可点击红框中的"install previous versions of PyTorch"链接去选择CUDA版本对应的pytorch。

  1. 下载后离线安装

也可先下载Pytorch包,然后用cd将命令行的路径转到包所在的路径,之后pip install 包名 来安装pytorch包。例如:

python 复制代码
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

pytorch包下载路径: https://download.pytorch.org/whl/torch_stable.html
cu后面的数字表示版本号,cu101表示版本CUDA10.1;torch-后面的数字表示torch版本;cp后面的数字表示python版本,cp36表示python3.6;linux表示linux系统,win_amd64表示windows 64为系统。

因为chatGLM2-6B需要pytorch的2.0.1版本,并且选择了cuda的11.8版本,目前安装的python是3.10版本,电脑是Windows64系统,所以

选择cu118/torch-2.0.1%2Bcu118-cp310-cp310-win_amd64.whl

正式安装
相关推荐
Flynn Liang8 小时前
Spring AI 上生产:限流熔断、密钥与成本治理、私有化/混合部署、降级与 Prompt 灰度架构全解
人工智能·spring·架构·高可用·springai·成本治理·生产架构
飞猫的边缘AI8 小时前
边缘AI芯片的规则变了:从跑CNN到跑LLM和VLM
人工智能·语言模型·cnn·transformer·边缘ai
code2cat8 小时前
【随笔】连续批处理:长短请求怎样在迭代之间补位
java·人工智能·后端·大语言模型·vllm
牧羊人.3338 小时前
卷积神经网络之VGG
人工智能·深度学习·神经网络·算法·cnn
Flynn Liang8 小时前
Spring AI 2.0 深度解析:ChatClient、Advisor 链与 MCP——Java 工程师的 AI 落地最优解
java·人工智能·spring·大模型·架构设计·spring ai
AlanAshley8 小时前
Windows 中导致延迟的软硬件及协议比重
windows
Martina_03218 小时前
AI生成3D模型一合并网格,材质就串色?用6步检查材质槽、UV与图集重映射
图像处理·人工智能·3d·材质·uv·游戏策划·1024程序员节
蓝鲨硬科技8 小时前
Token之后,物理AI需要什么样的度量衡?
大数据·人工智能
人工智能AI技术8 小时前
Agent架构新思路:多Agent正在过时,单循环Main Loop才是新方向
人工智能
xiaoye-duck8 小时前
《C++ 项目:手写大模型接入 SDK》ChatGPT接口设计(中):全量响应实现和测试
网络·c++·语言模型·chatgpt