试试本地搭建AI模型-ChatGLM-6B(3)

章节

安装Pytorch

Pytorch 是一个基于 Python 的科学计算库,它面向以下两种人群:

  • 希望将其代替 Numpy 来利用 GPU 的威力;
  • 一个可以提供更加灵活和快速的深度学习研究平台。

安装

前往官网:pytorch.org/get-started...

  • 选择匹配自己的版本下载
  • 打开cmd进行下载
  • 安装报错处理

01.could not install packages due to an OSError winError 2 系统找不到指定文件

使用管理员终端进行执行(win+R进入黑窗口):python -m pip install --upgrade pip

02.ERROR: Could not install packages due to an OSError: WinError 5

同上这是未使用管理员模式的报错,进入管理员模式即可解决

检查安装

检查是否正常工作,依次输入这三句

arduino 复制代码
python
import torch
torch.cuda.is_available()

显示为True就大功告成啦!!!

安装MinGw

后面需要gcc指令进行编译,所以我们提前安装。

安装

官网下载:sourceforge.net/projects/mi...

点击安装包进行安装

安装完成后会打开MinGW Installation Manager界面

左边栏选中basic Setup,然后在右边选GCC和G++就好了。选择的方式是,右键 Mark for Installation,选择完之后,点击菜单栏的Installation --> apply change,然后让其自动下载安装就好了,它是边下载边安装的。

配置环境变量

打开电脑的 控制面板 --> 系统与安全 --> 系统 --> 高级系统设置 -->环境变量 ,在系统变量里找到 path

将以下环境变量添加到path:

E:\Desktop\AI\mingw64\bin

E:\Desktop\AI\mingw64\lib

验证安装

win键 + R,输入cmd打开命令行,输入gcc -v

显示如上图就大功告成啦!!!

相关推荐
漂流瓶jz4 小时前
【AI】大模型本地部署与量化:Ollama、transformers、llama.cpp实践
人工智能·llm·ai编程
ℋᙚᵐⁱᒻᵉ鲸落5 小时前
移动端滑动手势冲突:overflow: auto导致外层横向滑动失效
前端·javascript·css·vue.js·html
飞哥数智坊6 小时前
AI时代,我们到底该学什么、用什么,为什么还没提效?
人工智能
学长毕业设计6 小时前
基于SpringBoot的公益基金管理系统(源码+文档+讲解视频)
java·spring boot·后端
飞哥数智坊6 小时前
GPT 做架构,国内模型写代码:这条 AI 开发路线能跑通吗?
人工智能·ai编程
东小西6 小时前
【SAA实战】第 3 篇 · 工具调用全攻略:把业务能力交给 Agent 自己调度
java·后端·spring
东小西6 小时前
【SAA实战】第 4 篇 · Agent 短期记忆:saver 让 Agent 跨轮记得住(threadId 隔离)
java·后端·spring
AI_AGENT_DEV_AI7 小时前
AI 智能体的开发与上线
人工智能
VL——MOESR7 小时前
【具身智能】VLA论文阅读随笔
论文阅读·人工智能·机器学习·具身智能·vla
默_笙7 小时前
🎃 前端学了 Next.js,后端该学啥?NestJS 就是 Node 版的蜜雪冰城
前端·javascript