MLU370-M8 chattts-ui快速出击

目录


一、paas平台环境选择

驱动选择:5.10.22及以上

镜像选择:pytorch2.1

二、代码环境准备

1.代码下载

bash 复制代码
git clone https://github.com/jianchang512/chatTTS-ui
python /torch/src/catch/tools/torch_gpu2mlu/torch_gpu2mlu.py -i chatTTS-ui/

2.环境安装

modelsope

bash 复制代码
git clone https://github.com/modelscope/modelscope.git
python /torch/src/catch/tools/torch_gpu2mlu/torch_gpu2mlu.py -i modelscope/
pip install -r modelscope/requirements/framework.txt
pip install -e ./modelscope_mlu/

transformers

bash 复制代码
git clone -b v4.39.2 https://githubfast.com/huggingface/transformers.git
pip install -e ./transformers/

accelerate

bash 复制代码
git clone https://githubfast.com/huggingface/accelerate.git
pip install -e ./accelerate/

3.常规pip安装

bash 复制代码
cd chatTTS-ui_mlu && pip install -r requirements.txt

4.代码修改

bash 复制代码
vocos/heads 

 	+	mag = mag.cpu()
    +   x = x.cpu()
    +   y = y.cpu()
        S = mag * (x + 1j * y)
    +    mag = mag.mlu()
    +    x = x.mlu()
    +   y = y.mlu()
    +    S =S.mlu()

4.代码修改

三.算法启动

模型默认采用魔塔路径下载,这里不做模型下载教学

bash 复制代码
python app.py

MLU体验感拉满了简直

相关推荐
lindsayshuo几秒前
jetson orin系列开发版安装cuda的gpu版本的opencv
人工智能·opencv
向阳逐梦几秒前
ROS机器视觉入门:从基础到人脸识别与目标检测
人工智能·目标检测·计算机视觉
量子网络17 分钟前
debian 如何进入root
linux·服务器·debian
我们的五年24 分钟前
【Linux课程学习】:进程描述---PCB(Process Control Block)
linux·运维·c++
陈鋆26 分钟前
智慧城市初探与解决方案
人工智能·智慧城市
qdprobot26 分钟前
ESP32桌面天气摆件加文心一言AI大模型对话Mixly图形化编程STEAM创客教育
网络·人工智能·百度·文心一言·arduino
QQ395753323727 分钟前
金融量化交易模型的突破与前景分析
人工智能·金融
QQ395753323728 分钟前
金融量化交易:技术突破与模型优化
人工智能·金融
The_Ticker40 分钟前
CFD平台如何接入实时行情源
java·大数据·数据库·人工智能·算法·区块链·软件工程
Elastic 中国社区官方博客1 小时前
Elasticsearch 开放推理 API 增加了对 IBM watsonx.ai Slate 嵌入模型的支持
大数据·数据库·人工智能·elasticsearch·搜索引擎·ai·全文检索