Matcha-Tts:一种基于条件流匹配的快速Tts架构笔记

MATCHA-TTS: A FAST TTS ARCHITECTURE WITH CONDITIONAL FLOW MATCHING笔记

提出问题:

1、合成速度慢

提出方法:

  1. 首先,提出了一种改进的编码器-解码器TTS架构,在解码器中使用1D CNN和Transformer的组合。这样减少了内存消耗,并且评估速度快,提高了合成速度。
  2. 其次,使用最优传输条件流匹配( OT-CFM )来训练这些模型,这是一种从数据分布中学习样本常微分方程(ODEs)的新方法。与传统的连续时间归一化流(CNFs)和基于得分匹配的概率流ODEs相比,OT - CFM定义了从源到目标的更简单的路径,能够在比DPMs更少的步骤中实现精确合成。
    方法实施中面临的问题:
    ①使用sinusoidal position embeddings进行位置依赖,不能很好的概括到长序列。解决的办法是使用旋转位置嵌入,它具有计算和记忆又是,可以推广到长距离。
    ②使用1D和2D卷积合成梅尔普图。2D将MEL图看作图像,隐式的假定在时间和频率上的评议不变性。但是MEL在频率轴上并不是完全平移不变性。并且2D解码器通常需要更多的内存,张量引入了额外的维度。已经有研究证明使用带有1D卷积的解码器可以学习到长距离依赖关系,并且合成速度快。

2、模型图如下

3、代码:https://shivammehta25.github.io/Matcha-TTS/

相关推荐
Zhao-Jichao1 小时前
AI Prompting for Everyone 课程笔记 - P21 总结 Conclusion
人工智能·笔记
欢欢李1 小时前
【LTE L3 笔记 05】LTE同步信号
笔记·无线通信·物理层·lte·空口协议
La Pulga3 小时前
【FreeRTOS源码学习笔记】空闲任务与阻塞延时
笔记·mcu·学习·嵌入式·freertos·实时操作系统
蒸蒸yyyyzwd3 小时前
秋招学习笔记 day106
笔记·学习
小李不想当小白4 小时前
WDG看门狗(STM32标准库学习笔记)
笔记·stm32·单片机·嵌入式硬件·学习·嵌入式
欢欢李5 小时前
【LTE L3 笔记 04】LTE帧结构
笔记·无线通信·物理层·lte·空口协议
Zhao-Jichao7 小时前
AI Prompting for Everyone 课程笔记 - P20 实验与期末项目 Lab and Final Project
前端·人工智能·笔记
Z21-X8 小时前
云原生运维实战笔记:企业网站综合上云部署与云运维服务全景解析
运维·笔记·学习·云原生
坤坤子吖8 小时前
Linux网络编程:UDP进阶,从字典服务器到简单聊天室
linux·服务器·网络·c++·笔记·学习
Rabitebla8 小时前
【Linux学习笔记】进程篇(九):进程的创建与退出——fork、写时拷贝与退出码
linux·c++·笔记·学习