Qwen3 ASR 流式转写 Docker 懒人整合包

前言

本文是第二个docker懒人包,依旧是win兼容问题,不得不用docker

这个懒人包有40GB左右,在docker容器里,环境依赖和模型都在,界面为官方的流式demo

同样的,要么在linux上使用(x86),要么在win上使用wsl2和docker桌面版,目前不支持mac arm

懒人包使用

下载并解压缩

加载镜像

docker load -i dockerImages.tar

加载成功后启动

docker-compose up

启动成功后,查看容器id

docker ps

使用powerShell进入容器

docker exec -it 6bb5af3cbb72 /bin/bash

进入容器后,可以使用ls查看当前映射的数据卷文件

ls

然后使用python启动服务

python demo_streaming.py

等待启动成功后,访问localhost:8000

点击开始录音转写即可

Tips

点击此处 网盘下载

docker系列并没有bat一键启动,要使用docker,默认就要会一点相关的命令

以后我可能添加一键启动和初始化命令,目前时间问题,就暂不添加,这样也能避免很多错误,比如端口占用,进程错误当

这个懒人包的参数细节

在demo_streaming.py的代码,我添加了参数,限制kv_catch上下文为8k

max_model_len=8192, 关键修复

如果不限制,我的显存就会爆炸,你可以根据自己的需求去修改Qwen3ASRModel.LLM相关参数,比如max_model_len,或者其他参数,具体请自行参考官方文档或者问AI

相关推荐
golang学习记13 小时前
Go 项目使用docker compose的正确方式
开发语言·docker·golang
张忠琳17 小时前
【NPU】Ascend Device Plugin —Part 6 K8s客户端 + 重复检测模块 超深度源码分析之二
云原生·容器·kubernetes·npu·docker device
JLWcai2025100917 小时前
核电打磨 “安全卫士”|金利威不锈钢专用树脂砂轮,合规高效双在线
mysql·mongodb·eureka·sqlite·rabbitmq·nosql·memcached
雨声不在17 小时前
私有 Docker Registry 排障实录:两个隐蔽的坑
docker·容器
云川之下18 小时前
【k8s】SR‑IOV‑Network‑Operator 详解
云原生·容器·kubernetes
读书读傻了哟18 小时前
解决docker拉取镜像报错failed to resolve reference “docker.io/xxx“...i/o timeout问题
运维·docker·容器
Ai拆代码的曹操20 小时前
DaemonSet OnDelete 策略详解:为何 rollout restart 无效及正确迁移方案
docker·容器·kubernetes
名字还没想好☜20 小时前
Kubernetes NetworkPolicy 实战:默认全通的坑与用标签做零信任隔离
运维·云原生·容器·kubernetes·networkpolicy
瑞码空间20 小时前
Web应用的多端部署之道:浏览器 · Electron · Docker
前端·docker·electron·浏览器·web
badhope21 小时前
Docker镜像从2GB压到80MB——我被运维追着打了三天才学会的容器瘦身术
docker