开源TTS领域迎来重磅新星!Dia-1.6B:超逼真对话生成,开源2天斩获6.5K Star!

文本转语音(TTS)领域又迎来一位重磅新星!

由 Nari Labs 开发的 Dia-1.6B 以其超逼真的对话生成能力引发热议,仅开源两天便在 GitHub 收获 6.5K+ Star!

据说其能力超越了 ElevenLabs 和 Sesame,仅凭借 1.6B 参数就可实现情感控制、非语言声音(如笑声、咳嗽)和零样本声纹克隆,运行效率惊人。

支持从文本脚本生成多角色对话,通过 S1、S2 标签区分角色,生成自然语音,并支持非语言表达和声纹克隆,目前仅限英语。

它在 Hugging Face 也提供了模型权重和 Gradio Demo 体验。

主要功能

  • 多角色对话生成:使用 S1、S2 等标签区分角色,单次生成多角色对话,保持自然节奏和情感过渡。

  • 拟人化表达:支持笑声(laugh)、叹气(sigh)、咳嗽(cough)等非语言情绪

  • 零样本声纹克隆:可微调或指定语音风格,克隆用户或角色声音

  • 高质量语音合成:音质媲美 ElevenLabs、Sesame,细节自然,情绪变化真实

  • 实时推理速度:A4000 显卡上约 40 tokens/s,体验流畅无等待

  • Gradio 界面支持:自带可用的 Web UI 界面,输入文本立即试听

快速上手

Dia-1.6B 官方实验室提供了详细安装指南和 Gradio 演示。

在线体验:

无需配置环境,打开 Hugging Face Demo 即可输入脚本或音频试听效果:

Demo:huggingface.co/spaces/nari...

安装部署与使用步骤:

1、克隆项目

bash 复制代码
git clone https://github.com/nari-labs/dia.git
cd dia

2、创建虚拟环境

bash 复制代码
python -m venv .venv
source .venv/bin/activate

3、安装依赖

erlang 复制代码
pip install -e .

4、启动 Gradio UI

复制代码
python app.py

访问 http://localhost:7860,输入脚本或上传音频,生成对话。

示例脚本:

scss 复制代码
[S1] Dia is amazing! [S2] Yeah, it generates laughs too! (laughs)

还可以通过 Python 包安装 Dia 的API

bash 复制代码
# Install directly from GitHub
pip install git+https://github.com/nari-labs/dia.git

Python 调用示例:

scss 复制代码
import soundfile as sf

from dia.model import Dia


model = Dia.from_pretrained("nari-labs/Dia-1.6B")

text = "[S1] Dia is an open weights text to dialogue model. [S2] You get full control over scripts and voices. [S1] Wow. Amazing. (laughs) [S2] Try it now on Git hub or Hugging Face."

output = model.generate(text)

sf.write("simple.mp3", output, 44100)

后续也将推出 pypi包和CLI工具。

使用场景推荐

  • 有声读物 / 小说播报:让不同角色"开口说话",配合情绪词还原真实语境

  • 播客配音:快速合成带感情、有风格的访谈类语音

  • AI 角色扮演:配合 Agent,多角色模拟对话系统

  • TTS 研究与微调:声音克隆、情绪控制、非语言表达

写在最后

Dia-1.6B 是开源 TTS 领域的最新研究成果,其逼真对话和低资源需求让人惊叹。

小体量(1.6B 参数)却能生成媲美 ElevenLabs、Sesame 的高保真语音,甚至能区分角色、模拟非语言情绪(比如:咳嗽、叹气、笑声)。

其免费开源 + 超高拟真度 + 多角色/非语言表达全支持,使其成为目前开源TTS领域最值得关注的TTS项目之一!

不过目前仅支持英文,期待后续能够支持中文及更多语言。

GitHub 项目地址:github.com/nari-labs/d...

HF 模型地址:huggingface.co/nari-labs/D...

在线Demo:huggingface.co/spaces/nari...

如果你有个 AI 角色,想让它"开口说话",甚至"笑一下",Dia-1.6B 那就太适合了。

相关推荐
归来少年Plus5 分钟前
RAG——让 AI 基于企业知识库回答问题
人工智能
Margrop11 分钟前
话费接进 Home Assistant 报 3006 设备未信任:一次 Agent 拆解电信协议与手搓零云端授权实录
人工智能
william_yangshun12 分钟前
【AI实战】Claude-Code-Game-Studios中文版使用教程:把Claude Code改造成49个Agent的游戏工作室
人工智能·游戏
WANGXIN56712 分钟前
攻克微信读书 Web 端「漏抓 40% 内容」顽疾:我开源了一个全书无损导出精排 PDF / EPUB / Markdown 工具
github
神鹰手哥_起飞版18 分钟前
我用豆包 Seed 做了个 B 站陪看插件:长视频摘要、语音识别和几个工程坑
人工智能
meiying883821 分钟前
多快递公司快递单号批量查询接口怎么对接?Python 聚合查询实现
java·大数据·python
前端小万23 分钟前
用"道法术器"重构你和 AI 的协作方式
前端·人工智能·程序员
阿里云大数据AI技术25 分钟前
头部车企基于 EMR Serverless Spark 的多模态大规模打标实践
人工智能
JuiceFS26 分钟前
从 Meta 的工程实践看 EB 级 AI 存储架构
人工智能·后端
hishhish27 分钟前
Agent 100% 答对,但真的准吗?
人工智能