GPUStack × CherryStudio:为企业用户构建安全可靠的本地私有化 AI 助手(中)

步骤二:部署模型

**1.**打开 GPUStack 网页端「模型库」页面

**2.**选择要运行的模型(如 Qwen3)

**3.**点击「保存」,转到「部署」页面,等待状态变为 Running

模型可用后,可在 GPUStack 的「Playground - Chat」直接测试:

亦可按需部署更多模型(如下仅为演示):

更多部署细节见 GPUStack 项目与文档:

项目地址:https://github.com/gpustack/gpustack

官方文档:https://docs.gpustack.ai/

显存不足或需添加多节点,请参考下图:

步骤三:连接 CherryStudio

如尚未安装 CherryStudio,请先访问官网安装:https://www.cherry-ai.com/

**1.**打开 CherryStudio,进入「设置」→「模型服务」,搜索 "GPUStack"

**2.**选择「GPUStack」,并启用(未启用将无法使用)

**3.**配置参数:

Base URL:http://your_server_ip/v1-openai/(注意:末尾斜杠必需)

API Key:在 GPUStack 的「API Keys」页面新建并复制

**4.**管理模型

**5.**测试连接

配置正确后,会显示"连接成功"。

6.(可选)设置默认模型

至此,CherryStudio 即可调用 GPUStack 上部署的模型,获得与 OpenAI 一致的使用体验,同时实现对数据与算力的完全掌控。

相关推荐
麦豆GEO4 分钟前
GEO与传统内容营销的核心差异:AI时代内容运营的全面升级
大数据·人工智能·内容运营
禁默13 分钟前
Embodied VideoAgent 论文解读:机器人怎样持续记住动态场景
人工智能·机器人
Rocky Ding*20 分钟前
FLUX 3 Image Klein 技术解析:5.6B 生成器、Flow Map 蒸馏与 ComfyUI 可控编辑
论文阅读·人工智能·深度学习·机器学习·aigc·flux·ai-native
围炉聊科技1 小时前
MCP 里的 SSRF:为什么“让 Agent 取什么就取什么”如此危险——智能体基建系列
人工智能
无障碍研究院1 小时前
2026TADC|李庆阳:探讨科技无障碍实践与行动经验
人工智能
workflower1 小时前
Agentic AI 时代的企业ICT 基础设施运维
运维·人工智能·机器学习·重构·云计算·汽车
szxinmai主板定制专家1 小时前
ZYNQ 数据采集方案踩坑总结:电力强电磁干扰、工业现场多协议适配优化
运维·人工智能·fpga开发·机器人·zynq
goujunwe1 小时前
短视频怎么做 GEO:优化字幕和文稿,提升 AI 文本抓取采信率
大数据·人工智能·音视频
yunfengzhineng2 小时前
天津立体库货架配套厂家
大数据·运维·人工智能·python
天天代码码天天2 小时前
孩子画的小人,真的动起来了!我做了一个手绘动画小工具
人工智能