Windows安装GPU版本的pytorch详细教程

文章目录

chatGLM2-6B

ChatGLM2-6B版本要装pytorch2.0,而且要2.0.1 ,因此CUDA不能用12.0 ,也不能用10.0 ,只能用11.x 版本。

安装教程
  1. pip install直接下载安装
    官网: https://pytorch.org/get-started/locally/

进入官网,选择CUDA版本和其他信息,选好后复制Run this Command栏的命令,注意如果pip3报错的话,需要将pip3改为pip。如果页面上没有对应CUDA版本,可点击红框中的"install previous versions of PyTorch"链接去选择CUDA版本对应的pytorch。

  1. 下载后离线安装

也可先下载Pytorch包,然后用cd将命令行的路径转到包所在的路径,之后pip install 包名 来安装pytorch包。例如:

python 复制代码
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

pytorch包下载路径: https://download.pytorch.org/whl/torch_stable.html
cu后面的数字表示版本号,cu101表示版本CUDA10.1;torch-后面的数字表示torch版本;cp后面的数字表示python版本,cp36表示python3.6;linux表示linux系统,win_amd64表示windows 64为系统。

因为chatGLM2-6B需要pytorch的2.0.1版本,并且选择了cuda的11.8版本,目前安装的python是3.10版本,电脑是Windows64系统,所以

选择cu118/torch-2.0.1%2Bcu118-cp310-cp310-win_amd64.whl

正式安装
相关推荐
云杂项23 分钟前
Exploring Model Inversion Attacks in the Black-box Setting(个人笔记)
人工智能
还卿一钵无情泪31 分钟前
Unsloth 微调 构建自己的大模型 没有GPU也能微调
linux·开发语言·人工智能·python·大模型·nlp·unsloth
冬奇Lab1 小时前
LLM 驱动的自动化测试系列(06):移动端自动化(二)——DroidRun/Mobilerun 的角色级模型拆分
人工智能·测试
冬奇Lab2 小时前
一天一个开源项目(第230篇):HandRaw-Style —— 把 327 种手绘风格、165 种排版、36 种配色编号化,让 AI 画图不再每次都飘
人工智能·开源·资讯
罗西的思考2 小时前
从陶哲轩的访谈看:AI 数学研究方法论 & 给其它行业的启示
人工智能
学...2 小时前
软件学报 2023 论文《面向复杂约束优化问题的进化算法综述》阅读笔记
人工智能·ga·cmop
xhy_07072 小时前
AI 在同一步上反复打转怎么办?WES Code 循环检测怎么用
人工智能·大模型·ai编程·wes code
鱼宵3 小时前
Spring AI 提示词模板:{变量} 参数化 + few-shot,一条提示词反复用
java·人工智能·spring·few-shot·提示词工程·springai
蜗牛互联网3 小时前
Python消费Responses SSE事件:增量文本、超时与取消
java·开发语言·人工智能·后端·python
架构师那点事儿3 小时前
大模型如何私有化部署到生产环境
人工智能·架构·llm