大模型快速部署,以浪潮源2.0为例

step1: 申请PAI-DSW试用

step2:魔塔社区授权

由于本地授权一直失败,于是采用了魔塔免费平台实例进行学习。

搭建好之后,打开就有相关页面了:

demo搭建:

按照官方提示的步骤进行搭建,内容如下:

输入命令

文件下载

复制代码
git lfs install
git clone https://www.modelscope.cn/datasets/Datawhale/AICamp_yuan_baseline.git

环境安装

复制代码
pip install streamlit==1.24.0

启动demo

复制代码
streamlit run AICamp_yuan_baseline/Task\ 1:零基础玩转源大模型/web_demo_2b.py --server.address 127.0.0.1 --server.port 6006

然后点击链接,先加载一段时间的模型,然后就开始尝试对话

尝试对话的结果如下:

相关推荐
IT_陈寒2 分钟前
Redis批量删除的大坑,差点让我加班到天亮
前端·人工智能·后端
AI搅拌机9 分钟前
LoRA训练实战41:用QwenImageEdit2511训练“灵魂画手”风格LoRA,保姆级全流程教程,一学就会!
人工智能·ai作画
xierui12312314 分钟前
探索型 AI 与交付型 AI:两种截然不同的技术物种
大数据·人工智能·效率工具·ai工具·大模型应用·aiagent·agent架构
白羊by15 分钟前
Softmax 激活函数详解:从数学原理到应用场景
网络·人工智能·深度学习·算法·损失函数
踏着七彩祥云的小丑15 分钟前
AI——初识Dify
人工智能·ai
VBsemi-专注于MOSFET研发定制25 分钟前
高端牧光互补储能电站功率链路设计实战:效率、可靠性与系统集成的平衡之道
网络·人工智能
HyperAI超神经28 分钟前
教程汇总丨开源小模型综合智能水平追平GPT-5,一站测评Qwen 3.5/Gemma 4等热门模型
人工智能
观远数据30 分钟前
跨部门指标统一治理:如何消除数据口径歧义提升决策效率
大数据·人工智能·数据挖掘·数据分析
常宇杏起32 分钟前
AI安全进阶:AI模型鲁棒性测试的核心方法
大数据·人工智能·安全
搜佛说41 分钟前
sfsEdgeStore,工业物联网边缘计算的“瘦身”革命
人工智能·物联网·边缘计算