Dify结合vllm-openai docker镜像出现docker: invalid reference format问题的解决方案

你遇到的 docker: invalid reference format 是PowerShell中反引号换行后的空格/符号问题 ,以及路径引号内的空格未正确处理 导致的。以下是彻底修复的命令(可直接复制执行):

修复后Windows PowerShell命令(无格式错误)

powershell 复制代码
docker run --gpus all --shm-size 24g -p 0.0.0.0:18000:8000 `
-v "E:/AI_Model/Qwen/Qwen3Guard-Gen-8B":/mnt/d/models/qwen3guard-gen-8b `
-e LC_ALL=C.UTF-8 `
vllm/vllm-openai:latest `
serve /mnt/d/models/qwen3guard-gen-8b `
--trust-remote-code `
--served-model-name qwen3guard-gen-8b `
--max-model-len 8192 `
--gpu-memory-utilization 0.9

关键修复点

  1. 反引号后无任何字符 :
    每个反引号 ````` 后不能有空格、全角符号(修正版命令中反引号直接接换行,无多余字符),这是PowerShell换行的严格要求。
  2. 路径统一为正斜杠 :
    将原路径的 \ 改为 /(E:/AI_Model/Qwen/Qwen3Guard-Gen-8B),同时确保路径中的空格(如AI_Model)在引号内被正确识别。
  3. 镜像名位置正确 :
    vllm/vllm-openai:latest 是镜像名,必须放在 docker run 选项之后、serve 指令之前,避免Docker将其识别为无效参数。

执行步骤

  1. 复制上述命令到管理员身份运行的PowerShell;
  2. 直接粘贴执行(不要手动修改换行);
  3. 若仍提示GPU相关错误,需确认已安装NVIDIA Docker Toolkit,否则去掉--gpus all参数(CPU运行)。
相关推荐
孙克旭_13 分钟前
云原生基础之Containerd容器运行时
运维·云原生
分布式存储与RustFS14 分钟前
RustFS 自建对象存储实战目录:110 篇按场景分类(持续更新)
运维·云原生·开源·对象存储·分布式存储·s3·性能基准
无忧_wy17 分钟前
MoneyPrinterTurbo 自动化视频生成实战指南
运维·人工智能·自动化·音视频
木头左11 小时前
【Nginx】内网服务源 IP 白名单实战:动态域名解析放行网段 + 端口接管零改造
运维·nginx·白名单·反向代理
禁默12 小时前
启元 Q1 二次开发实践:Ubuntu 部署与仿真验证,从 PrimeConsole 到 ROS 2 Humble + RViz
linux·运维·ubuntu
skywalk816312 小时前
把 去也网站 从 Ubuntu 搬到 FreeBSD:一次 Service Jail + nginx 的部署实录
linux·运维·nginx·ubuntu·freebsd
翔云12345613 小时前
RocksDB中,客户端每写入一次数据,需要访问几次磁盘
运维·数据库·mysql
爱莉希雅&&&14 小时前
GitLab 完整学习笔记
linux·运维·服务器
java_logo15 小时前
Docker 部署 EmulatorJS:轻松搭建浏览器复古游戏平台
游戏·docker·容器·复古游戏·轩辕镜像·emulatorjs·红白机
小杨爱科普15 小时前
制造业上自动化改造,改造部分的专利到底归谁
运维·经验分享·自动化