大模型快速部署,以浪潮源2.0为例

step1: 申请PAI-DSW试用

step2:魔塔社区授权

由于本地授权一直失败,于是采用了魔塔免费平台实例进行学习。

搭建好之后,打开就有相关页面了:

demo搭建:

按照官方提示的步骤进行搭建,内容如下:

输入命令

文件下载

git lfs install
git clone https://www.modelscope.cn/datasets/Datawhale/AICamp_yuan_baseline.git

环境安装

pip install streamlit==1.24.0

启动demo

streamlit run AICamp_yuan_baseline/Task\ 1:零基础玩转源大模型/web_demo_2b.py --server.address 127.0.0.1 --server.port 6006

然后点击链接,先加载一段时间的模型,然后就开始尝试对话

尝试对话的结果如下:

相关推荐
凉拌三丝4 分钟前
Llama Index案例实战(三)状态的设置与读取
人工智能·ai 编程
YoseZang7 分钟前
【机器学习和深度学习】分类问题通用评价指标:精确率、召回率、准确率和混淆矩阵
深度学习·机器学习·分类算法
微臣愚钝8 分钟前
《Generative Adversarial Nets》-GAN:生成对抗网络,一场伪造者与鉴定师的终极博弈
人工智能·深度学习
IT古董12 分钟前
【漫话机器学习系列】128.预处理之训练集与测试集(Preprocessing Traning And Test Sets)
深度学习·机器学习·自然语言处理
掘金酱15 分钟前
👏 用idea传递无限可能!AI FOR CODE挑战赛「创意赛道」作品提交指南
前端·人工智能·trae
招风的黑耳24 分钟前
智慧城市智慧社区项目建设方案
人工智能·智慧城市
JokerSZ.24 分钟前
复现:latent diffusion(LDM)stable diffusion
人工智能·深度学习·stable diffusion·生成模型
T0uken27 分钟前
【深度学习】Pytorch:更换激活函数
人工智能·pytorch·深度学习
张琪杭28 分钟前
pytorch tensor创建tensor
人工智能·pytorch·python
CodeAaron31 分钟前
智慧城市新基建:AI代理IP如何让城市管理“耳聪目明”?
人工智能·tcp/ip·智慧城市