Dify结合vllm-openai docker镜像出现docker: invalid reference format问题的解决方案

你遇到的 docker: invalid reference formatPowerShell中反引号换行后的空格/符号问题 ,以及路径引号内的空格未正确处理 导致的。以下是彻底修复的命令(可直接复制执行):

修复后Windows PowerShell命令(无格式错误)

powershell 复制代码
docker run --gpus all --shm-size 24g -p 0.0.0.0:18000:8000 `
-v "E:/AI_Model/Qwen/Qwen3Guard-Gen-8B":/mnt/d/models/qwen3guard-gen-8b `
-e LC_ALL=C.UTF-8 `
vllm/vllm-openai:latest `
serve /mnt/d/models/qwen3guard-gen-8b `
--trust-remote-code `
--served-model-name qwen3guard-gen-8b `
--max-model-len 8192 `
--gpu-memory-utilization 0.9

关键修复点

  1. 反引号后无任何字符
    每个反引号 ````` 后不能有空格、全角符号(修正版命令中反引号直接接换行,无多余字符),这是PowerShell换行的严格要求。
  2. 路径统一为正斜杠
    将原路径的 \ 改为 /E:/AI_Model/Qwen/Qwen3Guard-Gen-8B),同时确保路径中的空格(如AI_Model)在引号内被正确识别。
  3. 镜像名位置正确
    vllm/vllm-openai:latest 是镜像名,必须放在 docker run 选项之后、serve 指令之前,避免Docker将其识别为无效参数。

执行步骤

  1. 复制上述命令到管理员身份运行的PowerShell
  2. 直接粘贴执行(不要手动修改换行);
  3. 若仍提示GPU相关错误,需确认已安装NVIDIA Docker Toolkit,否则去掉--gpus all参数(CPU运行)。
相关推荐
敖行客 Allthinker4 小时前
Parallels Ubuntu虚拟机项目如何让手机访问?完整解决方案
linux·运维·ubuntu
BullSmall5 小时前
Anolis OS 8.10 完整安装 Docker CE(生产可用,解决 podman 冲突)
docker·容器·podman
元Y亨H6 小时前
生产环境监控与故障应急处理(5-5-5 标准)指南
运维
观山岳五楼7 小时前
Ubuntu 24 怎么使用Ubuntu 20 的镜像源
linux·运维·ubuntu
寒晓星7 小时前
[linux]线程及多线程
linux·运维
慧一居士8 小时前
Linux如何设置固定的静态ip
运维
梦梦代码精8 小时前
开源AI应用平台BuildingAI解析:插件化架构、应用市场与热门案例
人工智能·机器学习·docker·开源
国服第二切图仔9 小时前
13其他工具 - Skill/LSP/Sleep等
linux·运维·里氏替换原则
暴力求解10 小时前
Linux ---线程控制(二)
linux·运维·服务器·操作系统
梦痕长情11 小时前
等保三级三权账户
linux·运维·服务器