我的AIGC部署实践01

我的AIGC部署实践01

Hello 大家好,时隔快一年我又回来了,这段时间因为家里有事情失业了一段时间,不过学习的事情不能荒废。我自己通过读AIGC的文章和看相关的代码积累了一定的知识和理解,不过部署的事情还没有涉及,这次正好遇到了datawhale学习的机会,所以就迫不及待尝试,好了废话少说,我们开始吧。

1.免费算力领取

本次使用的算力平台是驱动云,注册后可以领取免费算力,可以在右上角的算力

2.部署ChatGLM3-6B模型

2.1创建项目

创建好账号后点击右上角的创建项目创建自己的项目

给自己的项目起一个名字

镜像选择pytorch2.0.1,python3.9

选择预训练模型,选择公开,选择如下图所示的模型

点击右下角的创建,完成任务创建

2.2配置环境-修改代码

点击右上角的加号,进入控制台
2.3设置镜像源、克隆项目

在控制台依次输入

复制代码
##打开新的会话窗口
tmux

##升级apt,安装unzip
apt-get update && apt-get iinstall unzip

##设置镜像源,升级pip
git config --global url."https://gitclone.com/".insteadOf https://
pip config set global.index-url https://mirrors.ustc.edu.cn/pypi/web/simple
python3 -m pip install --upgrade pip

##克隆项目,并进入项目目录
git clone https://github.com/THUDM/ChatGLM3.git
cd ChatGLM3

修改requirements

将requirements.txt文件其中的torch删掉,避免重复下载

返回终端,安装依赖

复制代码
 pip install -r requirements.txt

修改web_demo2.py

将web_demo2.py的34、35行的模型地址修改为 .../.../pretrain

修改web_demo.py

将web_demo.py的6、7行的模型地址修改为 .../.../pretrain

将下方的启动代码修改为

复制代码
demo.queue().launch(share=False,server_name="0.0.0.0",server_port=7000)

同时在外部添加端口7000

2.4运行代码

复制代码
python web_demo.py

输出界面如下:

相关推荐
Lilith的AI学习日记13 小时前
大语言模型中的幻觉现象深度解析:原理、评估与缓解策略
人工智能·语言模型·自然语言处理·aigc·ai编程
蚂小蚁18 小时前
AI+云编程搞定Web3游戏开发:下一代游戏的新基建
web3·aigc·ai编程
DisonTangor19 小时前
月之暗面开源 Kimi-Audio-7B-Instruct,同时支持语音识别和语音生成
人工智能·开源·aigc·语音识别
一只韩非子20 小时前
什么是MCP?为什么引入MCP?(通俗易懂版)
人工智能·aigc·mcp
Brady9511 天前
爆火的Agent智能体到底是什么?为何被称作ChatGPT的'终极进化版'?
aigc
BWrong1 天前
MCP(Model Context Protocol)入门与实践
aigc·ai编程
win4r1 天前
🚀AutoGen重大更新!新增McpWorkbench完美支持MCP Server!支持将Agent和Team封装为工具!开启模块化智能体编程!实战教程:从零
aigc·openai·ai编程
墨风如雪1 天前
成本狂降80%!文心4.5/X1 Turbo重塑AI格局:百度这场发布会太燃了!
aigc
Mu先生Ai世界1 天前
主流 AI 生成 3D 技术流派辨析:Text-to-3D, Image-to-3D 与 NeRF 应用概览 (AI+3D 产品经理笔记 S2E02)
aigc·产品经理
阿乐去买菜1 天前
很喜欢Vue,但还是选择了React: AI时代的新考量
前端·aigc