大模型快速部署,以浪潮源2.0为例

step1: 申请PAI-DSW试用

step2:魔塔社区授权

由于本地授权一直失败,于是采用了魔塔免费平台实例进行学习。

搭建好之后,打开就有相关页面了:

demo搭建:

按照官方提示的步骤进行搭建,内容如下:

输入命令

文件下载

复制代码
git lfs install
git clone https://www.modelscope.cn/datasets/Datawhale/AICamp_yuan_baseline.git

环境安装

复制代码
pip install streamlit==1.24.0

启动demo

复制代码
streamlit run AICamp_yuan_baseline/Task\ 1:零基础玩转源大模型/web_demo_2b.py --server.address 127.0.0.1 --server.port 6006

然后点击链接,先加载一段时间的模型,然后就开始尝试对话

尝试对话的结果如下:

相关推荐
墨舟的AI笔记24 分钟前
React 组件库的 Tree Shaking:按需加载与副作用的工程化治理
人工智能
WoooChi1 小时前
DailyTech-20260724
人工智能·科技·业界资讯
zh路西法1 小时前
【CAM Grad-CAM Grad-CAM++】深度学习模型可解释性:从原理到YOLOv8部署实战
人工智能·深度学习·yolo·yolov8·grad-cam·cam
雨辰AI2 小时前
全集实战:企业级大模型服务化部署全栈指南|FastAPI 封装 + Nginx 负载均衡 + 高可用架构 从单机到生产一步到位
人工智能·ai·负载均衡·fastapi·ai编程
触底反弹2 小时前
Vibe Coding 不写 Git,等于悬崖边飙车
人工智能·git·面试
咖啡屋和酒吧2 小时前
健康管理:现代生活的科学守护
人工智能·生活·精选
星栈独行2 小时前
翻完 Pi 源码:它和 Codex、Claude Code 有何不同
开发语言·javascript·人工智能·程序人生
没有梦想的咸鱼185-1037-16632 小时前
AI-Python机器学习与深度学习技术:CNN/Transformer/扩散模型、SHAP可解释及Hermes智能体自动化
人工智能·python·深度学习·机器学习·chatgpt·cnn·transformer
船漏了就会沉3 小时前
Kimi K3 vs DeepSeek-V4:国产大模型的技术路线之争
人工智能
kirs_ur3 小时前
SSD 在 AI 训练中的角色
大数据·服务器·人工智能