这个开源项目,把本地大模型做成会说话的 Live2D 桌宠

Open-LLM-VTuber 支持本地离线、实时语音、视觉感知和桌宠模式,把 LLM、ASR、TTS 与 Live2D 形象串成一个可运行的 AI 伴侣。

一、把"能聊天的本地模型",做成一个站在你桌面上的伙伴

如果你对 AI 伴侣、虚拟主播或者本地大模型感兴趣,Open-LLM-VTuber 是一个很值得看的开源项目。

它不是单纯的聊天前端,而是把 LLM、语音识别、语音合成、视觉感知和 Live2D 形象串到一起:你可以用语音和它实时对话,它能用角色声音回应,也能以 Live2D 形象显示表情、动作和状态。项目支持 Windows、macOS 和 Linux,既可以跑网页版,也可以使用桌面客户端。

项目地址:github.com/Open-LLM-VT...

Open-LLM-VTuber 的桌面客户端与 Live2D 角色界面

二、它解决的不是"能不能聊",而是"能不能自然地互动"

很多本地大模型项目的重点是文本对话,但 Open-LLM-VTuber 的重点更接近"具身化交互":让模型不只输出文字,而是像一个可以陪你说话、可以在屏幕上存在的虚拟角色。

项目 README 里列出的核心能力包括:

  • 实时语音对话:用 ASR 听用户说话,用 TTS 把回复说出来。
  • 语音打断:不需要耳机,也能在 AI 说话时打断它,减少"等它说完"的割裂感。
  • 视觉感知:支持摄像头、屏幕录制和截图,让 AI 伙伴能看到用户或屏幕内容。
  • Live2D 表情:可以做情绪映射,让后端输出控制角色表情。
  • 桌宠模式:桌面客户端支持透明背景、全局置顶、鼠标穿透,把角色放到屏幕任意位置。
  • 主动说话和内心 OS:不只是被动问答,也能表达想法、动作和状态。
  • 聊天记录持久化:可以切换和延续之前的会话。

这类设计让它更像一个"AI 角色系统",而不是换皮聊天窗口。

三、本地离线,是这个项目最有吸引力的部分

Open-LLM-VTuber 强调所有功能都可以在电脑上完全离线运行。对隐私敏感、喜欢本地模型、或者想做可控实验的人来说,这一点很关键。

它支持的后端也比较宽:

  • LLM:Ollama、OpenAI 兼容 API、Gemini、Claude、Mistral、DeepSeek、智谱、GGUF、LM Studio、vLLM 等。
  • ASR:sherpa-onnx、FunASR、Faster-Whisper、Whisper.cpp、Whisper、Groq Whisper、Azure ASR 等。
  • TTS:sherpa-onnx、pyttsx3、MeloTTS、Coqui-TTS、GPT-SoVITS、Bark、CosyVoice、Edge TTS、Fish Audio、Azure TTS 等。

也就是说,你可以根据机器配置和隐私需求自由组合:全部本地、部分本地加云 API,或者用更强的云模型来负责对话。

桌宠模式让 Live2D 角色停留在桌面和开发环境旁边

四、可玩性来自"角色"和"模块化"

这个项目真正好玩的地方,不只是接入了多少模型,而是它允许你把角色感做出来。

你可以导入自定义 Live2D 模型,修改 Prompt 来塑造人设,也可以通过音色克隆或不同 TTS 后端让角色拥有更合适的声音。项目还支持 TTS 翻译,例如你用中文聊天,但让角色用日语声线说出来。

从架构上看,它采用模块化设计,LLM、ASR、TTS、VAD、Agent 等都可以切换或扩展。对于开发者来说,这意味着它不仅是一个应用,也可以作为"语音 AI 伴侣 / AI VTuber"实验平台。

五、适合谁尝试?

我觉得它特别适合三类人:

  1. 想在本地跑 AI 伴侣的人:希望聊天记录、语音和视觉输入尽量留在自己设备上。
  2. 想做 AI VTuber 或桌宠原型的人:需要 Live2D、语音、表情和打断能力的现成框架。
  3. 想研究多模态交互链路的开发者:可以观察 LLM、ASR、TTS、VAD、前端和 WebSocket 服务如何组合。

需要注意的是,项目 README 也明确提醒:Open-LLM-VTuber 仍处于早期阶段并在积极开发中;v2.0 也正在讨论和规划,当前 v1 仍会继续修 bug 和处理已有 PR。长期记忆功能暂时下线,后续预计回归。

六、快速上手与现实门槛

项目提供了快速上手文档,入口在这里:

open-llm-vtuber.github.io/docs/quick-...

根据 README,项目可以通过网页版和桌面客户端使用;如果要在远程设备上访问服务端,还需要注意浏览器麦克风权限要求:非 localhost 场景下通常需要 HTTPS 或反向代理配置。

这也说明它不是"点开网页就能无脑使用"的消费级产品,而更像一个面向动手玩家和开发者的开源系统。愿意折腾模型、声音、角色和配置的人,会从中得到更多乐趣。

项目也支持网页端形态,适合跨平台访问和调试

七、结语:开源 AI 伴侣正在从"聊天框"走向"角色系统"

Open-LLM-VTuber 最有意思的地方,是它把多个原本分散的能力拼成了一个完整体验:模型负责思考,ASR 负责听,TTS 负责说,VAD 负责判断时机,Live2D 负责让角色"在场"。

如果你正在找一个能本地运行、可定制、带语音和 Live2D 形象的 AI 伴侣项目,它值得收藏。即使不直接使用,也可以把它当作观察开源 AI 角色系统演进的样本。

GitHub:github.com/Open-LLM-VT...

截至本文查看时,项目约有 8.4k Stars、1.0k Forks,最新 release 为 v1.2.1。


更多内容欢迎关注公众号:

相关推荐
BK贝壳1 天前
亿级用户签到位图选型复盘:用 bool-hybrid-array 扛冷启动打卡,也把它和 Roaring/Redis 的边界测清楚了
数据结构·python·性能优化·numpy
2601_966949651 天前
如何根据研究的起止时间截取分钟级行情?Python 实战与 QuantDash 数据处理指南
开发语言·python·pandas·量化交易·1024程序员节·股票数据·quantdash
张彦峰ZYF1 天前
越过边界之前:Reward Seeker 实验如何改写智能体安全的时间逻辑
人工智能·ai agent·anthropic·智能体安全·reward seeker·“控制评价过程”泛化跨领域策略·envbom
拓恒技术1 天前
无人机巡检AI算法的工程化落地:从需求到交付的5个核心环节
人工智能·算法·无人机
冬奇Lab1 天前
一天一个开源项目(第248篇):CleanYourTV —— 让 AI 编程助手通过 Wi-Fi 给安卓电视去广告、换上 Apple TV 风格主屏
开源·资讯
wflynn1 天前
GitHub 今日推荐|gpu-unlock-ada:Ada 显卡张量算力翻倍解锁
开源·github·c
罗西的思考1 天前
AI 时代的 “房谋杜断”:如何培养能力、品味与判断力
人工智能·算法·机器学习
在世修行1 天前
智学文枢:页面切换与跨页数据预填
python·桌面应用·signal·1024程序员节·pyside·跨页跳转·状态预填
字节跳动视频云技术团队1 天前
720P 直升 8K,解密 2026 抖音美好奇妙夜巨幕超分黑科技
人工智能·音视频开发
2601_962885721 天前
如何用 Python 把 K 线重采样成任意周期?
开发语言·python