TTS-1技术报告:基于Transformer的文本转语音模型

TTS-1技术报告

我们介绍了Inworld TTS-1,这是一组两个基于Transformer的自回归文本转语音(TTS)模型。我们最大的模型TTS-1-Max拥有88亿参数,专为要求苛刻的应用场景提供最高质量和表现力。TTS-1是我们最高效的模型,具有16亿参数,专为实时语音合成和边缘设备用例而构建。

通过扩展训练计算量并应用语音语言模型(SpeechLM)组件的预训练、微调和RL对齐的序列化流程,这两个模型在各种基准测试中都实现了最先进的性能,仅依靠说话者语音的上下文学习就展现出卓越的质量。

Inworld TTS-1和TTS-1-Max能够以低延迟生成48kHz高分辨率语音,支持11种语言,并通过音频标记实现精细的情感控制和非语言发声。我们还以MIT许可证开源了训练和建模代码。

技术细节

  • 模型架构:基于Transformer的自回归模型
  • 参数量:TTS-1-Max(8.8B)/TTS-1(1.6B)
  • 采样率:48kHz高分辨率音频
  • 支持语言:11种
  • 特色功能:音频标记控制、情感表达、非语言发声
  • 训练流程:预训练→微调→RL对齐三阶段
  • 开源协议:MIT许可证

性能表现

模型在多项基准测试中达到state-of-the-art水平,完全基于上下文学习实现高质量的语音合成。特别在以下方面表现突出:

  1. 语音自然度和表现力
  2. 多语言支持能力
  3. 低延迟实时生成
  4. 边缘设备部署效率
    更多精彩内容 请关注我的个人公众号 公众号(办公AI智能小助手)
    公众号二维码
相关推荐
tiger8651 天前
大语言模型面试和题解,梳理中国主流开源 LLM 系列的发展脉络、技术路线与工程取舍
人工智能·gpt·深度学习·算法·自然语言处理·面试·transformer
程序猿编码2 天前
零依赖纯手写:C++ 实现完整神经网络,张量反向传播全打通
c++·神经网络·transformer·大模型推理
高洁013 天前
大模型的幻觉怎么治
人工智能·深度学习·django·transformer·tornado
大江东去浪淘尽千古风流人物3 天前
【RoboDojo】机器人操作通用策略统一评估基准:42仿真+18现实任务×异构并行深度解析
机器人·transformer·具身智能·机器人学习·视觉表示·patch policy·robodojo
高洁014 天前
孪生不止在工厂:能源、医疗与农业
人工智能·深度学习·transformer·知识图谱·tornado
布吉岛的石头4 天前
Java 程序员第 48 阶段15:Transformer 架构总览与自注意力直觉,注意力权重可视化:用 Java 打印注意力矩阵理解模型在看什么
人工智能·深度学习·transformer
richard_first4 天前
第3章 PTQ:不用重新训练也能量化 LLM
人工智能·深度学习·语言模型·自然语言处理·transformer
Allen_LVyingbo4 天前
三甲医院医疗AI代码库管理系统研究(上)
网络·transformer·知识图谱·健康医疗
JAI科研5 天前
YOLO 完全指南(七):YOLO识别工程化 (上)
人工智能·深度学习·神经网络·yolo·目标检测·计算机视觉·transformer
程序猿编码5 天前
扔掉 Python!纯 C++ 本地跑扩散 TTS,GGML 加持,支持 RK3588 NPU 加速
c++·计算机视觉·大模型·transformer·rk3588·推理·ggml