【Audio】Qwen3-TTS-12Hz-1.7B-CustomVoice服务化部署和请求

Qwen3-TTS-12Hz-1.7B-CustomVoice

  • 功能:文本转语音
  • 部署:在单卡昇腾910b上使用vllm-omni部署

模型下载

bash 复制代码
pip install modelscape
mkdir Qwen3-TTS-12Hz-1.7B-CustomVoice
modelscape download --model Qwen/Qwen3-TTS-12Hz-1.7B-CustomVoice --output-dir Qwen3-TTS-12Hz-1.7B-CustomVoice

镜像

bash 复制代码
quay.io/ascend/vllm-omni:v0.20.0

启动服务

bash 复制代码
vllm serve Qwen3-TTS-12Hz-1.7B-CustomVoice \
    --host 0.0.0.0 \
    --port 8000 \
    --tensor-parallel-size 1 \
    --omni \
    --trust-remote-code \
    --gpu-memory-utilization 0.40
  • 注意:--gpu-memory-utilization不能设置太高,建议0.4及以下,否则不够显存部署,如果非要设置为0.8-0.95,建议添加卡数部署

请求服务

curl 命令请求

bash 复制代码
curl -s http://0.0.0.0:8000/v1/audio/speech \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Qwen3-TTS-12Hz-1.7B-CustomVoice",
    "input": "Hello, What is your name? Where are you come from?",
    "voice": "vivian"
  }' \
  -o speech.mp3
相关推荐
Summer-Bright8 小时前
企业落地智能体,供应链签名还是空白:1862 个 MCP 服务器无认证裸奔
服务器·人工智能·github·mcp
ZhengEnCi8 小时前
Agent 只输出计划不调用工具怎么办:从终止信号错位到结果验收的四层防线
人工智能·agent
xsd202411188 小时前
把模型从 FP32 压到 INT8:PTQ、QAT 与 PyTorch 量化全链路
人工智能
AI源码8 小时前
基于机器学习的优衣库销售预测与决策系统
人工智能·机器学习
可夫小子8 小时前
13 条数据跑出 65.87 分:这场 48 小时真机挑战赛,拆穿了具身智能的落地真相
人工智能
大模型真好玩9 小时前
做好真人分身却不知道拍什么?8个视频应用场景直接抄
人工智能·agent·deepseek
ZhengEnCi9 小时前
黄仁勋想回英伟达却被拒:创始人 CEO 辞职后为什么回不来,董事会继任机制全拆解
人工智能·nvidia·团队管理
真上帝的左手9 小时前
26. AI-大语言模型-基础
人工智能·ai·架构·llm·大语言模型
墨林陌10 小时前
AI 热点日报(2026-11-18):OpenAI 发布 GPT-6.2,APEC 峰会聚焦 AI,AI 制药融资创新高
人工智能
byte轻骑兵10 小时前
【ATT】规范精讲[8]:配置要确认、灌包要速度、多字段要原子——BLE 写入的四重选择
人工智能·aiot·l2cap·嵌入式蓝牙·蓝牙链路管理