docker 运行项目配置cuda

一 存在的问题

直接运行和使用docker后 推理速度差别很大,都是使用的本地的主机电脑,什么原因:

generator = self.cosyvoice.inference_zero_shot(

result_text,

prompt_text="希望你以后能够做的比我还好呦。",

prompt_wav="./CosyVoice/asset/zero_shot_prompt.wav",

prompt_text=settings.cosy_voice_text,

prompt_wav=settings.cosy_voice_path,

prompt_text="团结同志,这四个字,说起来抽象,但要落实在具体工作当中",

prompt_wav="./wang_voice/study_voice.wav",

stream=True,

text_frontend=False,

)

self.cosyvoice = CosyAutoModel(model_dir='chat_models/CosyVoice2-0.5B')

机器狗运行时长:

带显卡125 服务器运行时长:

本地运行时长:

本机电脑配置:

二 docker 配置

相关推荐
Agent产品评测局6 分钟前
制造业考勤智能管理系统,主流AI Agent方案横评:2026年企业级自动化选型深度指南
运维·人工智能·ai·chatgpt·自动化
bukeyiwanshui6 分钟前
20260509 docker项目总结
运维·docker·容器
玄尺10 分钟前
jenkins安装和使用
运维·jenkins
剑神一笑13 分钟前
Linux xargs 命令深度解析:从管道到命令构建的桥梁
linux·运维·chrome
谁在黄金彼岸22 分钟前
Docker Compose删除服务后,docker compose down无法关闭的问题解决
docker·容器
数据智能老司机26 分钟前
使用 Docker 构建可落地运行的 AI 系统——Docker Desktop:AI/ML 工作流的运行时基础
docker·容器
Cisyam^42 分钟前
Bright Data Web Scraper 实战:构建 TikTok 与 LinkedIn Web Scraping 自动化 Skill(2026)
运维·前端·自动化
程序员大辉1 小时前
Rufus中文版(U盘引导盘制作工具)v4.14.2377,PE U盘启动工具,重装系统必备的软件工具
运维·windows
量子炒饭大师1 小时前
【Linux系统编程】Cyberpunk在霓虹丛林中构建堡垒 ——【关于shell命令及其运行原理】
linux·运维·服务器·shell