GPUStack × CherryStudio:为企业用户构建安全可靠的本地私有化 AI 助手(中)

步骤二:部署模型

**1.**打开 GPUStack 网页端「模型库」页面

**2.**选择要运行的模型(如 Qwen3)

**3.**点击「保存」,转到「部署」页面,等待状态变为 Running

模型可用后,可在 GPUStack 的「Playground - Chat」直接测试:

亦可按需部署更多模型(如下仅为演示):

更多部署细节见 GPUStack 项目与文档:

项目地址:https://github.com/gpustack/gpustack

官方文档:https://docs.gpustack.ai/

显存不足或需添加多节点,请参考下图:

步骤三:连接 CherryStudio

如尚未安装 CherryStudio,请先访问官网安装:https://www.cherry-ai.com/

**1.**打开 CherryStudio,进入「设置」→「模型服务」,搜索 "GPUStack"

**2.**选择「GPUStack」,并启用(未启用将无法使用)

**3.**配置参数:

Base URL:http://your_server_ip/v1-openai/(注意:末尾斜杠必需)

API Key:在 GPUStack 的「API Keys」页面新建并复制

**4.**管理模型

**5.**测试连接

配置正确后,会显示"连接成功"。

6.(可选)设置默认模型

至此,CherryStudio 即可调用 GPUStack 上部署的模型,获得与 OpenAI 一致的使用体验,同时实现对数据与算力的完全掌控。

相关推荐
回眸&啤酒鸭5 天前
【回眸】Minicart 电商购物车核心功能落地指南
人工智能
一隅论数智5 天前
给AI一张“业务概念地图“:本体如何从哲学走向企业智能
大数据·人工智能·经验分享·笔记·学习·学习方法·政务
AI的探索之旅5 天前
97 个 OpenCV 实例(三十):双目立体,从标定到点云
人工智能·opencv·计算机视觉
AlbertZein5 天前
Step-5-Preview 上手实测:3D 游戏、金融分析、网页设计一次跑完
人工智能·aigc
LaughingZhu5 天前
Product Hunt 每日热榜 | 2026-09-19
人工智能·深度学习·神经网络·搜索引擎·百度
美狐美颜SDK开放平台5 天前
开发直播APP时如何接入视频美颜SDK?开发流程与注意事项
android·人工智能·计算机视觉·音视频·直播美颜sdk
wukangjupingbb5 天前
智能网联汽车安全能力框架
人工智能
龙亘川5 天前
明月照湾区,智启新赛道:从顶流文旅IP盛会看智慧文旅升级路径
人工智能·智慧城市·开源软件·数据可视化
飞猫的边缘AI5 天前
边缘AI应用:家用AI摄像头怎么做数据训练?
人工智能·边缘计算·ai算法·边缘ai