一键部署CosyVoice AI语音模型

目录

[运行 CosyVoice 的 Docker 容器](#运行 CosyVoice 的 Docker 容器)

[下载 CosyVoice 模型](#下载 CosyVoice 模型)

[启动 Web 界面](#启动 Web 界面)

注意事项


运行 CosyVoice 的 Docker 容器

使用以下命令启动一个支持 GPU 的 Docker 容器,并挂载本地目录到容器内:

bash 复制代码
docker run -it --gpus all \
  -v /mnt/CosyVoice-300M-SFT:/CosyVoice/pretrained_models/CosyVoice-300M-SFT \
  --ipc=host --cap-add=SYS_PTRACE --network=host \
  --name CosyVoice-web --privileged \
  -d registry.cn-hangzhou.aliyuncs.com/lky-deploy/cosyvoice:v2-cu12-py3.10 \
  /bin/bash -c 'sleep inf'


docker exec -it CosyVoice-web bash

下载 CosyVoice 模型

在容器内执行以下命令下载模型:

bash 复制代码
modelscope download --model=iic/CosyVoice-300M-SFT --local_dir pretrained_models/CosyVoice-300M-SFT

启动 Web 界面

运行以下命令启动 Web 界面:

bash 复制代码
python webui.py --model_dir pretrained_models/CosyVoice-300M-SFT &> web.log &

注意事项

确保本地目录 /mnt/CosyVoice-300M-SFT 存在且有足够的存储空间存放模型文件。如果模型已经下载到本地,可以直接挂载到容器内的对应目录。

GPU 支持需要宿主机已经安装 NVIDIA 驱动和 nvidia-docker 运行时。如果遇到权限问题,可能需要添加 --privileged 参数。

网络模式 --network=host 让容器使用宿主机的网络,确保端口可以正常访问。如果需要限制端口,可以改为使用 -p 参数映射特定端口。

https://www.modelscope.cn/models/iic/CosyVoice2-0.5B/summary

https://github.com/FunAudioLLM/CosyVoice

相关推荐
恒点虚拟仿真几秒前
智能制造专业虚拟仿真实训平台:AI赋能个性化学习,提高实践技能
人工智能·智能制造·ai教学·ai+虚拟仿真·虚拟仿真实训平台·虚拟仿真平台·虚拟仿真教学平台
泰迪智能科技5 分钟前
分享|智能决策,精准增长:企业数据挖掘关键策略与应用全景
人工智能·数据挖掘
番茄撒旦在上5 分钟前
2.每日机器学习——张量(Tensors)
人工智能·机器学习
流烟默8 分钟前
机器学习中的 fit()、transform() 与 fit_transform():原理、用法与最佳实践
人工智能·机器学习·transform·fit
王中阳Go9 分钟前
8 - AI 服务化 - AI 超级智能体项目教程
人工智能
长桥夜波9 分钟前
【第二十周】机器学习笔记09
人工智能·笔记·机器学习
流烟默16 分钟前
基于Optuna 贝叶斯优化的自动化XGBoost 超参数调优器
人工智能·python·机器学习·超参数优化
饕餮怪程序猿22 分钟前
C++:大型语言模型与智能系统底座的隐形引擎
c++·人工智能
hzp6661 小时前
基于大语言模型(LLM)的多智能体应用的新型服务框架——Tokencake
人工智能·语言模型·大模型·llm·智能体·tokencake
摘星编程1 小时前
昇腾NPU性能调优实战:INT8+批处理优化Mistral-7B全记录
人工智能·华为·gitcode·昇腾