大模型快速部署，以浪潮源2.0为例

试音刀郎2024-08-13 17:09

step1: 申请PAI-DSW试用

step2：魔塔社区授权

由于本地授权一直失败，于是采用了魔塔免费平台实例进行学习。

搭建好之后，打开就有相关页面了：

demo搭建：

按照官方提示的步骤进行搭建，内容如下：

输入命令

文件下载

复制代码

git lfs install
git clone https://www.modelscope.cn/datasets/Datawhale/AICamp_yuan_baseline.git

环境安装

复制代码

pip install streamlit==1.24.0

启动demo

复制代码

streamlit run AICamp_yuan_baseline/Task\ 1：零基础玩转源大模型/web_demo_2b.py --server.address 127.0.0.1 --server.port 6006

然后点击链接，先加载一段时间的模型，然后就开始尝试对话

尝试对话的结果如下：