爆火的ChatTTS试用体验(附完整安装步骤和体验地址)

近日,一个名为 ChatTTS 文本转语音项目爆火出圈。突破了开源语音天花板,才开源3天斩获9k的Star量。 该模型真是强大,又要火爆一波,是最接近真人的语音特征,包括笑声、停顿和插入词等,让人感觉不到竟是语音合成的效果。

ChatTTS介绍

非常自然的文本转语音(Text To Speech)TTS,支持中英文混读,还可以穿插笑声,听起来很真实自然。项目地址:https://github.com/2noise/ChatTTS/tree/main

专门为对话场景设计的文本转语音模型。它支持英文和中文两种语言。最大的模型使用了10万小时以上的中英文数据进行训练。在HuggingFace中开源的版本为4万小时训练且未SFT的版本。

作者本人也在 x 上表示,ChatTTS 突破了开源天花板。不过,目前开源的只是底模,没有经过 SFT 监督微调。

ChatTTS 不仅能说中文,英文也能 hold 住,还支持一些细粒度控制,它允许你加入笑声、说话间的停顿,还有语气词,可玩性很强。

音频体验效果,音频来自 B 站:

bash 复制代码
https://www.bilibili.com/video/BV1zn4y1o7iV/?share_source=copy_web&vd_source=983ec32a3036bb1cf2699e4fdbce3c28

开源地址

https://github.com/2noise/ChatTTS

安装步骤

0.使用Anaconda环境

关于Anaconda安装,不再说明,可参见我的博客:

让照片人物开口说话,SadTalker 安装及使用(避坑指南)-CSDN博客

1.使用conda 创建虚拟环境

bash 复制代码
conda create -n ChatTTS python=3.9   # 创建新的虚拟环境
conda activate ChatTTS       # 激活新建的虚拟环境

2.下载源码并安装依赖

bash 复制代码
// clone源码
git clone https://gitcode.com/2noise/ChatTTS.git
// 进入源码目录
cd ChatTTS
// 安装依赖
pip install -r requirements.txt  #安装项目需要的库

模型下载地址

下载地址一
https://huggingface.co/2Noise/ChatTTS

下载地址二

https://www.modelscope.cn/models/pzc163/chatTTS/files

如何使用

在项目ChatTTS目录下新建个test.py,内容如下:

bash 复制代码
import ChatTTS
from wave import Wave_write
import numpy as np

base_path = r'E:\test\python\chat-mode\chatTTS'
chat = ChatTTS.Chat()
chat.load_models(source='local',local_path=base_path)

# 输入文本
inputs = """大家好,我是猫哥。专注于python、机器学习及人工智能等相关技术分享,感谢大家的点赞关注"""

# 笑声、停顿等按需要添加的输入文本中具体位置
params_refine_text = {
  'prompt': '[oral_2][laugh_0][break_4]'
}
wavs = chat.infer(inputs, params_refine_text=params_refine_text)[0]

sample_rate = 24000
# 转换数据类型并调整到合适的范围
# audio_data_rescaled = (wavs * 32767).astype(np.int16).flatten()
audio_data_rescaled = (wavs * 28000).astype(np.int16).flatten()

# 创建并打开一个wav文件用于写入
with Wave_write('test4.wav') as wave_file:
    wave_file.setparams((1, 2, sample_rate, len(audio_data_rescaled), 'NONE', 'not compressed'))
    wave_file.writeframes(audio_data_rescaled.tobytes())

运行报错解决

原因是 torch.compile是Pytorch2.0以后新增加的特性,用来加速Pytorch代码的方法,通过JIT 将 PyTorch 代码编译成优化的内核。但目前的windows不支持它。

windows会报错,RuntimeError: Windows not yet supported for torch.compile。

需要改ChatTTS/core.py,第75行,把原来的True改为False。

再次报错:

bash 复制代码
conda install -c conda-forge pynini=2.1.5 && pip install WeTextProcessing

如何快速体验

如果不想像上面的步骤自己本机安装,可以在线快速体验。

Hugging Face 上有部署好的项目,我们可以直接去试用。

体验地址

bash 复制代码
https://huggingface.co/2Noise/ChatTTS

https://huggingface.co/spaces/Dzkaka/ChatTTS

其他资源

https://gitcode.com/2noise/ChatTTS/overview

https://blog.51cto.com/yunyaniu/5935335

【手把手教学】最新ChatTTS语音合成项目使用指南【附所有源码与模型】-CSDN博客

有感情的语音合成开源模型:ChatTTS安装使用详解 - AI魔法学院

ChatTTS完美部署-CSDN博客

爆火ChatTTS突破开源语音天花板

相关推荐
深度学习实战训练营42 分钟前
基于CNN-RNN的影像报告生成
人工智能·深度学习
昨日之日20063 小时前
Moonshine - 新型开源ASR(语音识别)模型,体积小,速度快,比OpenAI Whisper快五倍 本地一键整合包下载
人工智能·whisper·语音识别
浮生如梦_3 小时前
Halcon基于laws纹理特征的SVM分类
图像处理·人工智能·算法·支持向量机·计算机视觉·分类·视觉检测
深度学习lover3 小时前
<项目代码>YOLOv8 苹果腐烂识别<目标检测>
人工智能·python·yolo·目标检测·计算机视觉·苹果腐烂识别
热爱跑步的恒川4 小时前
【论文复现】基于图卷积网络的轻量化推荐模型
网络·人工智能·开源·aigc·ai编程
阡之尘埃6 小时前
Python数据分析案例61——信贷风控评分卡模型(A卡)(scorecardpy 全面解析)
人工智能·python·机器学习·数据分析·智能风控·信贷风控
孙同学要努力8 小时前
全连接神经网络案例——手写数字识别
人工智能·深度学习·神经网络
Eric.Lee20218 小时前
yolo v5 开源项目
人工智能·yolo·目标检测·计算机视觉
其实吧39 小时前
基于Matlab的图像融合研究设计
人工智能·计算机视觉·matlab
丕羽9 小时前
【Pytorch】基本语法
人工智能·pytorch·python