GPUStack × CherryStudio:为企业用户构建安全可靠的本地私有化 AI 助手(中)

步骤二:部署模型

**1.**打开 GPUStack 网页端「模型库」页面

**2.**选择要运行的模型(如 Qwen3)

**3.**点击「保存」,转到「部署」页面,等待状态变为 Running

模型可用后,可在 GPUStack 的「Playground - Chat」直接测试:

亦可按需部署更多模型(如下仅为演示):

更多部署细节见 GPUStack 项目与文档:

项目地址:https://github.com/gpustack/gpustack

官方文档:https://docs.gpustack.ai/

显存不足或需添加多节点,请参考下图:

步骤三:连接 CherryStudio

如尚未安装 CherryStudio,请先访问官网安装:https://www.cherry-ai.com/

**1.**打开 CherryStudio,进入「设置」→「模型服务」,搜索 "GPUStack"

**2.**选择「GPUStack」,并启用(未启用将无法使用)

**3.**配置参数:

Base URL:http://your_server_ip/v1-openai/(注意:末尾斜杠必需)

API Key:在 GPUStack 的「API Keys」页面新建并复制

**4.**管理模型

**5.**测试连接

配置正确后,会显示"连接成功"。

6.(可选)设置默认模型

至此,CherryStudio 即可调用 GPUStack 上部署的模型,获得与 OpenAI 一致的使用体验,同时实现对数据与算力的完全掌控。

相关推荐
染指111013 分钟前
3.AI大模型-token是什么-大模型底层运行机制
人工智能·算法·机器学习
stsdddd13 分钟前
【YOLO算法多类别野生动物识别目标检测数据集】
人工智能·yolo·目标检测
qq_4112624218 分钟前
四博AI眼罩方案升级:白噪音、音乐助眠、AI情绪陪伴,把智能音箱戴在身
人工智能·智能音箱
han_20 分钟前
AI Skill 是什么?一篇讲清楚它和 Prompt、MCP 的区别
人工智能·ai编程·mcp
实习僧企业版20 分钟前
从“抢人”到“识人”,回归匹配本质
大数据·人工智能·雇主品牌·招聘技巧
杰建云16724 分钟前
多商家入驻小程序平台怎么做
人工智能·小程序
易观Analysys25 分钟前
Agent生态中出现五大黄金创业赛道——《重构与崛起—OpenClaw时代的中国Agent产业生态报告》解读二
人工智能
测绘第一深情33 分钟前
SwinIR-Denoise-UNet:红树林分割最佳实验全过程
人工智能
扬帆破浪37 分钟前
sidecar崩溃后前端怎么续命 重启策略与状态保留
前端·人工智能·架构·开源·知识图谱
Volunteer Technology38 分钟前
SpringAI Tool Calling 工具调用(六)
人工智能·spring