开源TTS领域迎来重磅新星!Dia-1.6B:超逼真对话生成,开源2天斩获6.5K Star!

文本转语音(TTS)领域又迎来一位重磅新星!

Nari Labs 开发的 Dia-1.6B 以其超逼真的对话生成能力引发热议,仅开源两天便在 GitHub 收获 6.5K+ Star!

据说其能力超越了 ElevenLabs 和 Sesame,仅凭借 1.6B 参数就可实现情感控制、非语言声音(如笑声、咳嗽)和零样本声纹克隆,运行效率惊人。

支持从文本脚本生成多角色对话,通过 S1S2 标签区分角色,生成自然语音,并支持非语言表达和声纹克隆,目前仅限英语。

它在 Hugging Face 也提供了模型权重和 Gradio Demo 体验。

主要功能

  • 多角色对话生成:使用 S1S2 等标签区分角色,单次生成多角色对话,保持自然节奏和情感过渡。

  • 拟人化表达:支持笑声(laugh)、叹气(sigh)、咳嗽(cough)等非语言情绪

  • 零样本声纹克隆:可微调或指定语音风格,克隆用户或角色声音

  • 高质量语音合成:音质媲美 ElevenLabs、Sesame,细节自然,情绪变化真实

  • 实时推理速度:A4000 显卡上约 40 tokens/s,体验流畅无等待

  • Gradio 界面支持:自带可用的 Web UI 界面,输入文本立即试听

快速上手

Dia-1.6B 官方实验室提供了详细安装指南和 Gradio 演示。

在线体验:

无需配置环境,打开 Hugging Face Demo 即可输入脚本或音频试听效果:

Demo:huggingface.co/spaces/nari...

安装部署与使用步骤:

1、克隆项目

bash 复制代码
git clone https://github.com/nari-labs/dia.git
cd dia

2、创建虚拟环境

bash 复制代码
python -m venv .venv
source .venv/bin/activate

3、安装依赖

erlang 复制代码
pip install -e .

4、启动 Gradio UI

复制代码
python app.py

访问 http://localhost:7860,输入脚本或上传音频,生成对话。

示例脚本:

scss 复制代码
[S1] Dia is amazing! [S2] Yeah, it generates laughs too! (laughs)

还可以通过 Python 包安装 Dia 的API

bash 复制代码
# Install directly from GitHub
pip install git+https://github.com/nari-labs/dia.git

Python 调用示例:

scss 复制代码
import soundfile as sf

from dia.model import Dia


model = Dia.from_pretrained("nari-labs/Dia-1.6B")

text = "[S1] Dia is an open weights text to dialogue model. [S2] You get full control over scripts and voices. [S1] Wow. Amazing. (laughs) [S2] Try it now on Git hub or Hugging Face."

output = model.generate(text)

sf.write("simple.mp3", output, 44100)

后续也将推出 pypi包和CLI工具。

使用场景推荐

  • 有声读物 / 小说播报:让不同角色"开口说话",配合情绪词还原真实语境

  • 播客配音:快速合成带感情、有风格的访谈类语音

  • AI 角色扮演:配合 Agent,多角色模拟对话系统

  • TTS 研究与微调:声音克隆、情绪控制、非语言表达

写在最后

Dia-1.6B 是开源 TTS 领域的最新研究成果,其逼真对话和低资源需求让人惊叹。

小体量(1.6B 参数)却能生成媲美 ElevenLabs、Sesame 的高保真语音,甚至能区分角色、模拟非语言情绪(比如:咳嗽叹气笑声)。

其免费开源 + 超高拟真度 + 多角色/非语言表达全支持,使其成为目前开源TTS领域最值得关注的TTS项目之一!

不过目前仅支持英文,期待后续能够支持中文及更多语言。

GitHub 项目地址:github.com/nari-labs/d...

HF 模型地址:huggingface.co/nari-labs/D...

在线Demo:huggingface.co/spaces/nari...

如果你有个 AI 角色,想让它"开口说话",甚至"笑一下",Dia-1.6B 那就太适合了。

相关推荐
lazy H22 分钟前
从入门到日常开发,一篇文章掌握 Git 核心操作
git·后端·学习·github
羑悻的小杀马特37 分钟前
把随身WiFi改成网盘聚合器:中兴F50挂载本地存储+夸克网盘实战
运维·服务器·人工智能·网盘·openlist
meilindehuzi_a44 分钟前
从跑分到生产力:重新理解大模型基准测试与分层协作
人工智能
蜜桃味女焊匠人2 小时前
焊接生产线优化思路:解决手工焊、机器人焊气体浪费问题
人工智能·经验分享·其他·机器人
Georgeviewer6 小时前
商业落地评测|实体门店GEO优化性价比与服务体系深度复盘
大数据·人工智能
GuWenyue7 小时前
分不清AI Workflow与Agent?3个实战案例彻底讲透,做AI应用不再踩选型坑
人工智能
彩讯股份3006348 小时前
彩讯股份与心洲科技签署战略合作协议,共建企业级模型后训练能力
人工智能·科技
Scott9999HH8 小时前
【IIoT流量实战】蒸汽管道阀门全关却仍有流量?用 Python 实现涡街信号 FFT 频谱分析与温压全补偿积算网关,深度拆解靠谱的涡街流量计厂家硬核技术标准
开发语言·python
迅易科技8 小时前
从场景验证到Agent上线:迅易 × WorkBuddy如何帮助企业建设AI能力?
人工智能·ai·腾讯云
PNP Robotics8 小时前
多伦多大学机器人峰会|物理AI与具身智能落地新趋势
人工智能·深度学习·机器学习·机器人