开源TTS领域迎来重磅新星!Dia-1.6B:超逼真对话生成,开源2天斩获6.5K Star!

文本转语音(TTS)领域又迎来一位重磅新星!

Nari Labs 开发的 Dia-1.6B 以其超逼真的对话生成能力引发热议,仅开源两天便在 GitHub 收获 6.5K+ Star!

据说其能力超越了 ElevenLabs 和 Sesame,仅凭借 1.6B 参数就可实现情感控制、非语言声音(如笑声、咳嗽)和零样本声纹克隆,运行效率惊人。

支持从文本脚本生成多角色对话,通过 [S1]、[S2] 标签区分角色,生成自然语音,并支持非语言表达和声纹克隆,目前仅限英语。

它在 Hugging Face 也提供了模型权重和 Gradio Demo 体验。

主要功能

  • 多角色对话生成:使用 [S1]、[S2] 等标签区分角色,单次生成多角色对话,保持自然节奏和情感过渡。

  • 拟人化表达:支持笑声(laugh)、叹气(sigh)、咳嗽(cough)等非语言情绪

  • 零样本声纹克隆:可微调或指定语音风格,克隆用户或角色声音

  • 高质量语音合成:音质媲美 ElevenLabs、Sesame,细节自然,情绪变化真实

  • 实时推理速度:A4000 显卡上约 40 tokens/s,体验流畅无等待

  • Gradio 界面支持:自带可用的 Web UI 界面,输入文本立即试听

快速上手

Dia-1.6B 官方实验室提供了详细安装指南和 Gradio 演示。

在线体验:

无需配置环境,打开 Hugging Face Demo 即可输入脚本或音频试听效果:

Demo:huggingface.co/spaces/nari...

安装部署与使用步骤:

1、克隆项目

bash 复制代码
git clone https://github.com/nari-labs/dia.git
cd dia

2、创建虚拟环境

bash 复制代码
python -m venv .venv
source .venv/bin/activate

3、安装依赖

erlang 复制代码
pip install -e .

4、启动 Gradio UI

复制代码
python app.py

访问 http://localhost:7860,输入脚本或上传音频,生成对话。

示例脚本:

scss 复制代码
[S1] Dia is amazing! [S2] Yeah, it generates laughs too! (laughs)

还可以通过 Python 包安装 Dia 的API

bash 复制代码
# Install directly from GitHub
pip install git+https://github.com/nari-labs/dia.git

Python 调用示例:

scss 复制代码
import soundfile as sf

from dia.model import Dia


model = Dia.from_pretrained("nari-labs/Dia-1.6B")

text = "[S1] Dia is an open weights text to dialogue model. [S2] You get full control over scripts and voices. [S1] Wow. Amazing. (laughs) [S2] Try it now on Git hub or Hugging Face."

output = model.generate(text)

sf.write("simple.mp3", output, 44100)

后续也将推出 pypi包和CLI工具。

使用场景推荐

  • 有声读物 / 小说播报:让不同角色"开口说话",配合情绪词还原真实语境

  • 播客配音:快速合成带感情、有风格的访谈类语音

  • AI 角色扮演:配合 Agent,多角色模拟对话系统

  • TTS 研究与微调:声音克隆、情绪控制、非语言表达

写在最后

Dia-1.6B 是开源 TTS 领域的最新研究成果,其逼真对话和低资源需求让人惊叹。

小体量(1.6B 参数)却能生成媲美 ElevenLabs、Sesame 的高保真语音,甚至能区分角色、模拟非语言情绪(比如:[咳嗽]、[叹气]、[笑声])。

其免费开源 + 超高拟真度 + 多角色/非语言表达全支持,使其成为目前开源TTS领域最值得关注的TTS项目之一!

不过目前仅支持英文,期待后续能够支持中文及更多语言。

GitHub 项目地址:github.com/nari-labs/d...

HF 模型地址:huggingface.co/nari-labs/D...

在线Demo:huggingface.co/spaces/nari...

如果你有个 AI 角色,想让它"开口说话",甚至"笑一下",Dia-1.6B 那就太适合了。

相关推荐
智驱力人工智能1 小时前
小区高空抛物AI实时预警方案 筑牢社区头顶安全的实践 高空抛物检测 高空抛物监控安装教程 高空抛物误报率优化方案 高空抛物监控案例分享
人工智能·深度学习·opencv·算法·安全·yolo·边缘计算
qq_160144872 小时前
亲测!2026年零基础学AI的入门干货,新手照做就能上手
人工智能
Howie Zphile2 小时前
全面预算管理难以落地的核心真相:“完美模型幻觉”的认知误区
人工智能·全面预算
人工不智能5772 小时前
拆解 BERT:Output 中的 Hidden States 到底藏了什么秘密?
人工智能·深度学习·bert
盟接之桥2 小时前
盟接之桥说制造:引流品 × 利润品,全球电商平台高效产品组合策略(供讨论)
大数据·linux·服务器·网络·人工智能·制造
kfyty7252 小时前
集成 spring-ai 2.x 实践中遇到的一些问题及解决方案
java·人工智能·spring-ai
猫头虎2 小时前
如何排查并解决项目启动时报错Error encountered while processing: java.io.IOException: closed 的问题
java·开发语言·jvm·spring boot·python·开源·maven
h64648564h2 小时前
CANN 性能剖析与调优全指南:从 Profiling 到 Kernel 级优化
人工智能·深度学习
数据与后端架构提升之路2 小时前
论系统安全架构设计及其应用(基于AI大模型项目)
人工智能·安全·系统安全
忆~遂愿2 小时前
ops-cv 算子库深度解析:面向视觉任务的硬件优化与数据布局(NCHW/NHWC)策略
java·大数据·linux·人工智能