Qwen3 ASR 流式转写 Docker 懒人整合包

前言

本文是第二个docker懒人包,依旧是win兼容问题,不得不用docker

这个懒人包有40GB左右,在docker容器里,环境依赖和模型都在,界面为官方的流式demo

同样的,要么在linux上使用(x86),要么在win上使用wsl2和docker桌面版,目前不支持mac arm

懒人包使用

下载并解压缩

加载镜像

docker load -i dockerImages.tar

加载成功后启动

docker-compose up

启动成功后,查看容器id

docker ps

使用powerShell进入容器

docker exec -it 6bb5af3cbb72 /bin/bash

进入容器后,可以使用ls查看当前映射的数据卷文件

ls

然后使用python启动服务

python demo_streaming.py

等待启动成功后,访问localhost:8000

点击开始录音转写即可

Tips

点击此处 网盘下载

docker系列并没有bat一键启动,要使用docker,默认就要会一点相关的命令

以后我可能添加一键启动和初始化命令,目前时间问题,就暂不添加,这样也能避免很多错误,比如端口占用,进程错误当

这个懒人包的参数细节

在demo_streaming.py的代码,我添加了参数,限制kv_catch上下文为8k

max_model_len=8192, 关键修复

如果不限制,我的显存就会爆炸,你可以根据自己的需求去修改Qwen3ASRModel.LLM相关参数,比如max_model_len,或者其他参数,具体请自行参考官方文档或者问AI

相关推荐
.冰块.7 小时前
Docker 镜像深度学习:分层 Copy‑on‑Write、Dockerfile 语法、Harbor 私有仓库实操
docker·容器·harbor·镜像·dockerfile·images
szephyr8 小时前
Docker 镜像瘦身实战:从 1.2GB 压到 85MB 的完整过程
docker·容器·部署·多阶段构建·镜像优化
小马同学-8 小时前
Containerd入门:架构原理与安装部署
容器·containerd
溪语流沙10 小时前
Django + Vue电商项目第001讲:开篇|注册登录加增删改查,那不是电商
redis·python·mysql·docker·typescript·django·vue
一直在努力学习的菜鸟12 小时前
Docker Info 详细解析(Rocky Linux 8.10 / Docker 29.8.1)
docker
小马同学-12 小时前
crictl实战:K8s容器运行时排障工具
容器·k8s·crictl
逐流人12 小时前
Containerd容器管理实战:从架构原理到nerdctlcrictl工具链
linux·运维·云原生·容器·云计算·containerd
AlfredZhao13 小时前
Docker 删除 none 镜像:一次真实的清理记录
docker
bosins1 天前
WSL2 启动即崩溃?调整超时参数解决 Docker 阻塞问题
linux·docker·wsl
闲云自留地1 天前
Containerd 进阶教程:命名空间 Namespace、私有仓库 Harbor、容器管理全流程
容器