目录
[运行 CosyVoice 的 Docker 容器](#运行 CosyVoice 的 Docker 容器)
[下载 CosyVoice 模型](#下载 CosyVoice 模型)
[启动 Web 界面](#启动 Web 界面)
运行 CosyVoice 的 Docker 容器
使用以下命令启动一个支持 GPU 的 Docker 容器,并挂载本地目录到容器内:
bash
docker run -it --gpus all \
-v /mnt/CosyVoice-300M-SFT:/CosyVoice/pretrained_models/CosyVoice-300M-SFT \
--ipc=host --cap-add=SYS_PTRACE --network=host \
--name CosyVoice-web --privileged \
-d registry.cn-hangzhou.aliyuncs.com/lky-deploy/cosyvoice:v2-cu12-py3.10 \
/bin/bash -c 'sleep inf'
docker exec -it CosyVoice-web bash

下载 CosyVoice 模型
在容器内执行以下命令下载模型:
bash
modelscope download --model=iic/CosyVoice-300M-SFT --local_dir pretrained_models/CosyVoice-300M-SFT
启动 Web 界面
运行以下命令启动 Web 界面:
bash
python webui.py --model_dir pretrained_models/CosyVoice-300M-SFT &> web.log &


注意事项
确保本地目录 /mnt/CosyVoice-300M-SFT
存在且有足够的存储空间存放模型文件。如果模型已经下载到本地,可以直接挂载到容器内的对应目录。
GPU 支持需要宿主机已经安装 NVIDIA 驱动和 nvidia-docker 运行时。如果遇到权限问题,可能需要添加 --privileged
参数。
网络模式 --network=host
让容器使用宿主机的网络,确保端口可以正常访问。如果需要限制端口,可以改为使用 -p
参数映射特定端口。
https://www.modelscope.cn/models/iic/CosyVoice2-0.5B/summary