开源2天斩获3K标星!开源TTS新星Chatterbox盲测击败ElevenLabs!

文本转语音(TTS)技术近年来随着AI的快速发展突飞猛进,但要在真实感、情绪表达和实时性上达到顶尖水平,仍是巨大挑战。

但零样本TTS和情感控制的兴起,涌现了一大批优秀的TTS模型,让语音合成进入了新的纪元。

最近,开源 TTS 领域迎来了一位超级重磅新星,它叫:Chatterbox,开源 2 天即冲上 GitHub 热榜,星标狂飙超 3K!

截止到我昨晚写这篇文章时,GitHub上已有 3.2K Star!成为近年来增长最快的开源 TTS 模型之一!

项目介绍

Chatterbox 是 Resemble AI 推出的首个生产级开源 TTS 模型,它还是首个支持情感夸张控制的开源 TTS 模型。

支持情绪控制、超低延迟(<200ms),还能嵌入神经水印确保AI安全。

凭借LLaMA架构(0.5B参数)、50万小时训练数据和创新的情绪夸张控制,它不仅媲美闭源巨头 ElevenLabs,还在最新盲测中超越对手。

它经过了两年的线上检验,处理了数百万个请求,有 63.75% 听众认为 Chatterbox 的音质优于 ElevenLabs,堪称史上最真实的开源语音合成模型之一。

核心功能亮点

  • 情绪夸张控制:首个支持情绪夸张控制的开源 TTS 模型,可调节语音表现力,适用于戏剧性语音生成。

  • 零样本语音克隆:仅需5秒参考音频即可克隆目标声音,无需额外训练。

  • 超低延迟:推理延迟低于200ms,适合实时对话应用。

  • PerTh神经水印:隐秘嵌入内容标记,提升安全性与可溯源。

  • 轻量高效:0.5B参数,24GB显存即可运行(推荐配置)。

  • 盲测力压ElevenLabs:语音自然度和情感表现超闭源标杆ElevenLabs。

安装与部署

Chatterbox 的安装也极其友好且简单,官方将其直接打包为一个Python包,可通过 pip 命令直接安装。

复制代码
pip install chatterbox-tts

三行代码即可解锁超真实语音生成体验。

ini 复制代码
import torchaudio as ta
from chatterbox.tts import ChatterboxTTS

model = ChatterboxTTS.from_pretrained(device="cuda")

text = "Ezreal and Jinx teamed up with Ahri, Yasuo, and Teemo to take down the enemy's Nexus in an epic late-game pentakill."
wav = model.generate(text)
ta.save("test-1.wav", wav, model.sr)

# 如果你想使用不同的声音进行合成,请指定音频提示
AUDIO_PROMPT_PATH="YOUR_FILE.wav"
wav = model.generate(text, audio_prompt_path=AUDIO_PROMPT_PATH)
ta.save("test-2.wav", wav, model.sr)

同时 Chatterbox 在 HuggingFace 上也有部署好的Demo在线体验版本,有兴趣的小伙伴可以前往体验。

Tips:默认设置(exaggeration=0.5, cfg_weight=0.5)适合大多数场景,快速语音用cfg_weight=0.3,戏剧化场景用exaggeration=0.7。

适用场景

Chatterbox的情感控制和低延迟让它适用于多种场景,直击TTS痛点:

  • 播客与短视频:生成生动配音,情绪夸张控制让内容更具吸引力,省去专业配音成本。

  • 游戏开发:为NPC生成多样化语音,支持克隆玩家声音,增强沉浸感。

  • 虚拟助手:超低延迟(<200ms)支持实时对话,打造自然流畅的AI客服。

  • 教育内容:生成多语言教学音频,情绪控制让讲解更生动,适合在线课程。

  • 戏剧化场景:高exaggeration值生成夸张语音,适合动画、广告、配音表演。

写在最后

Chatterbox 发布仅两天,GitHub 星标已达 3K+,增长速度令人惊叹!

Resemble AI 后续还计划优化模型效率,增加多语言支持和更细粒度的情绪控制。

作为一名互联网科技博主,我对 Resemble AI 的开源精神和 Chatterbox 的卓越性能佩服不已。无论是创意视频、游戏配音还是实时助手,Chatterbox 都能让你的内容"开口说话",充满生命力。

而且其真实度、控制力均超行业领先的 ElevenLabs,是当前最接近人类表现力的 TTS 模型之一!

GitHub 项目地址:github.com/resemble-ai...

HF 在线体验:huggingface.co/spaces/Rese...

相关推荐
那个村的李富贵1 小时前
光影魔术师:CANN加速实时图像风格迁移,让每张照片秒变大师画作
人工智能·aigc·cann
子兮曰2 小时前
OpenClaw入门:从零开始搭建你的私有化AI助手
前端·架构·github
腾讯云开发者2 小时前
“痛点”到“通点”!一份让 AI 真正落地产生真金白银的实战指南
人工智能
CareyWYR2 小时前
每周AI论文速递(260202-260206)
人工智能
hopsky3 小时前
大模型生成PPT的技术原理
人工智能
禁默4 小时前
打通 AI 与信号处理的“任督二脉”:Ascend SIP Boost 加速库深度实战
人工智能·信号处理·cann
心疼你的一切4 小时前
昇腾CANN实战落地:从智慧城市到AIGC,解锁五大行业AI应用的算力密码
数据仓库·人工智能·深度学习·aigc·智慧城市·cann
AI绘画哇哒哒4 小时前
【干货收藏】深度解析AI Agent框架:设计原理+主流选型+项目实操,一站式学习指南
人工智能·学习·ai·程序员·大模型·产品经理·转行
数据分析能量站4 小时前
Clawdbot(现名Moltbot)-现状分析
人工智能
那个村的李富贵4 小时前
CANN加速下的AIGC“即时翻译”:AI语音克隆与实时变声实战
人工智能·算法·aigc·cann