Matcha-Tts:一种基于条件流匹配的快速Tts架构笔记

MATCHA-TTS: A FAST TTS ARCHITECTURE WITH CONDITIONAL FLOW MATCHING笔记

提出问题:

1、合成速度慢

提出方法:

  1. 首先,提出了一种改进的编码器-解码器TTS架构,在解码器中使用1D CNN和Transformer的组合。这样减少了内存消耗,并且评估速度快,提高了合成速度。
  2. 其次,使用最优传输条件流匹配( OT-CFM )来训练这些模型,这是一种从数据分布中学习样本常微分方程(ODEs)的新方法。与传统的连续时间归一化流(CNFs)和基于得分匹配的概率流ODEs相比,OT - CFM定义了从源到目标的更简单的路径,能够在比DPMs更少的步骤中实现精确合成。
    方法实施中面临的问题:
    ①使用sinusoidal position embeddings进行位置依赖,不能很好的概括到长序列。解决的办法是使用旋转位置嵌入,它具有计算和记忆又是,可以推广到长距离。
    ②使用1D和2D卷积合成梅尔普图。2D将MEL图看作图像,隐式的假定在时间和频率上的评议不变性。但是MEL在频率轴上并不是完全平移不变性。并且2D解码器通常需要更多的内存,张量引入了额外的维度。已经有研究证明使用带有1D卷积的解码器可以学习到长距离依赖关系,并且合成速度快。

2、模型图如下

3、代码:https://shivammehta25.github.io/Matcha-TTS/

相关推荐
跨知易知识产权27 分钟前
美国专利确权是什么,和专利诉讼有什么不一样?
笔记
杨逢昌工厂6S管理29 分钟前
126-杨逢昌6S三环体系:越做越乱的现场熵增机理与基准化治理——一线现场诊断笔记
经验分享·笔记·职场和发展·学习方法
悟道书生37 分钟前
若依 RBAC 权限控制学习笔记
java·网络·笔记·sql·学习·vue
陈哈哈11111 小时前
折腾了半天,总算把 Vim 9.2 装明白了
笔记
陈哈哈11111 小时前
折腾了半天,总算把 OpenGL 的开发环境给装明白了
笔记
深圳老胡2 小时前
STM32F103 硬件 SPI 与软件 IO 模拟 SPI 最高速度差异详解
笔记·stm32·单片机·代码规范·1024程序员节
正弦波_Wave2 小时前
【Orcad原理图打印Pdf】
笔记·pdf
海绵宝宝的月光宝盒2 小时前
7-AutoCAD-参考线、多行文字、填充命令应用
经验分享·笔记·学习·职场和发展·课程设计·制造·cad
无锡银洲自动化2 小时前
汽包电极故障难发现?UDZ 智能电接点液位计调试小结
笔记·产品运营
n 55!w !1083 小时前
MySQL数据库笔记整理1
数据库·笔记·mysql