GPUStack × CherryStudio:为企业用户构建安全可靠的本地私有化 AI 助手(中)

步骤二:部署模型

**1.**打开 GPUStack 网页端「模型库」页面

**2.**选择要运行的模型(如 Qwen3)

**3.**点击「保存」,转到「部署」页面,等待状态变为 Running

模型可用后,可在 GPUStack 的「Playground - Chat」直接测试:

亦可按需部署更多模型(如下仅为演示):

更多部署细节见 GPUStack 项目与文档:

项目地址:https://github.com/gpustack/gpustack

官方文档:https://docs.gpustack.ai/

显存不足或需添加多节点,请参考下图:

步骤三:连接 CherryStudio

如尚未安装 CherryStudio,请先访问官网安装:https://www.cherry-ai.com/

**1.**打开 CherryStudio,进入「设置」→「模型服务」,搜索 "GPUStack"

**2.**选择「GPUStack」,并启用(未启用将无法使用)

**3.**配置参数:

Base URL:http://your_server_ip/v1-openai/(注意:末尾斜杠必需)

API Key:在 GPUStack 的「API Keys」页面新建并复制

**4.**管理模型

**5.**测试连接

配置正确后,会显示"连接成功"。

6.(可选)设置默认模型

至此,CherryStudio 即可调用 GPUStack 上部署的模型,获得与 OpenAI 一致的使用体验,同时实现对数据与算力的完全掌控。

相关推荐
2601_95578198几秒前
Windows 环境快速部署 Hermes 智能 Agent,规避环境配置各类坑点
人工智能·本地部署·教程分享·hermes·hermes部署
DO_Community2 分钟前
LawVo 借助 DigitalOcean 扩展 AI 驱动的法律服务
人工智能
带娃的IT创业者2 分钟前
从马斯克败诉OpenAI看AI时代的契约重构与技术伦理边界
人工智能·重构·openai·马斯克·商业化·技术伦理·ai治理
Hali_Botebie3 分钟前
为什么静态3DGS+轨迹回放,可以通过强化学习训练端到端自动驾驶?
人工智能·机器学习·自动驾驶
SCKJAI3 分钟前
依托NVIDIA Cosmos 3赋能交通与安全智能升级,发布新一代智慧城市AI平台
人工智能
波动几何3 分钟前
领域消除评估技能domain-elimination-assessor
人工智能
AI科技星6 分钟前
依托Gε₀ = e²/(4παmₚ²)核心方程:全新公式推导+原创理论提炼+全维度精算验证
人工智能·线性代数·架构·概率论·学习方法
Henry Zhu1236 分钟前
从人类智能的形成机制到通用人工智能:一种具身、因果、社会化的适应系统框架
人工智能
光锥智能8 分钟前
把OpenAI按在地上摩擦,Anthropic怎么做到的?
大数据·人工智能
河南博为智能科技有限公司9 分钟前
基于边缘计算物联网关的机房动力环境监控系统解决方案!
人工智能·物联网·边缘计算