本周 CSGLite 多次迭代更新至v0.9.82,重点上线了局域网计算集群与企业版 License 支持,并将实时语音回复延迟大幅降至 1 秒内,同时修复了集群调度、推理配置及 SSO 登录等多项关键问题。
具体更新内容如下:
新增功能
-
局域网计算集群:自动组网、节点发现与配对、请求路由;单机时默认休眠,开启后才启用
-
集群内模型可从对等节点复制,优先于回源下载;语音识别/合成也参与路由
-
企业版 License:校验 CSGHub 签发授权、功能门控;前端 Settings 支持导入 License,侧边栏显示 EE 徽标
-
实时语音回复改用 Opus 编码
-
/api/system 上报 AMD GPU 信息
稳定性与修复
- License:短 PEM 输入 panic、跨域访问、配额反转
- 推理:保留模型选定的量化方式、slot 数与 keep-alive
- 语音:回复延迟从约 4 秒降到 1 秒内
- SSO 登录后自动关闭回调标签页
- 流式示例兼容空 choices 与 null delta
关于CSGLite
CSGLite是OpenCSG推出的轻量化本地大模型运行底座,以单二进制文件集成了模型下载、本地推理、交互对话与标准API服务,支持一键自动完成模型加载与推理启动,并提供包含资源监控、模型市场、数据集管理、聊天室及AI应用管理等七大模块的统一Web工作台。它支持从CSGHub社区或私有仓库获取模型及数据集,也可无缝对接OpenAI、DeepSeek等第三方API;同时可通过launch命令一键配置主流编程Agent(如Claude Code、Codex等)直接调用本地模型,或一键拉起OpenClaw、Dify等AI应用,从而为开发者和企业提供从模型管理到本地推理、再到应用生态接入的全流程基础设施能力。
OpenCSG社区:
https://opencsg.com/products/csglite
开源链接: