Dify结合vllm-openai docker镜像出现docker: invalid reference format问题的解决方案

你遇到的 docker: invalid reference format 是PowerShell中反引号换行后的空格/符号问题 ,以及路径引号内的空格未正确处理 导致的。以下是彻底修复的命令(可直接复制执行):

修复后Windows PowerShell命令(无格式错误)

powershell 复制代码
docker run --gpus all --shm-size 24g -p 0.0.0.0:18000:8000 `
-v "E:/AI_Model/Qwen/Qwen3Guard-Gen-8B":/mnt/d/models/qwen3guard-gen-8b `
-e LC_ALL=C.UTF-8 `
vllm/vllm-openai:latest `
serve /mnt/d/models/qwen3guard-gen-8b `
--trust-remote-code `
--served-model-name qwen3guard-gen-8b `
--max-model-len 8192 `
--gpu-memory-utilization 0.9

关键修复点

  1. 反引号后无任何字符 :
    每个反引号 ````` 后不能有空格、全角符号(修正版命令中反引号直接接换行,无多余字符),这是PowerShell换行的严格要求。
  2. 路径统一为正斜杠 :
    将原路径的 \ 改为 /(E:/AI_Model/Qwen/Qwen3Guard-Gen-8B),同时确保路径中的空格(如AI_Model)在引号内被正确识别。
  3. 镜像名位置正确 :
    vllm/vllm-openai:latest 是镜像名,必须放在 docker run 选项之后、serve 指令之前,避免Docker将其识别为无效参数。

执行步骤

  1. 复制上述命令到管理员身份运行的PowerShell;
  2. 直接粘贴执行(不要手动修改换行);
  3. 若仍提示GPU相关错误,需确认已安装NVIDIA Docker Toolkit,否则去掉--gpus all参数(CPU运行)。
相关推荐
虎头金猫3 天前
4K 视频总卡在公网带宽?用 N1 + OpenList 把网盘播放链路重新理顺
运维·服务器·网络·python·容器·beautifulsoup·pandas
分布式存储与RustFS3 天前
MinIO 官方 Docker 镜像被移除:依赖它的项目该怎么办
docker·云原生·devops·对象存储·minio·分布式存储
AI职业加油站3 天前
AI智能体应用工程师证书:政策红利下的职业新风口
大数据·运维·人工智能·学习·职场发展
此冬歌咏3 天前
K8s 节点故障实战:优雅驱逐 31 秒,硬故障 331 秒,以及那个永远 Pending 的 Pod
运维·k8s
玉&心3 天前
通过Arthas在线诊断K8S中的内存及JVM等使用情况
docker·k8s·arthas
xing-xing3 天前
Docker容器中Nginx站点根目录网页配置访问
nginx·docker
-梅3 天前
linux(8) 软硬链接
linux·运维·服务器
赵文宇(温玉)3 天前
CoreDNS的hosts插件的缺行配置导致k8s集群异常
容器·kubernetes·rancher
guo_wen_qiang3 天前
上传本地镜像到harbor中
docker·容器·持续部署
张洛闻Eren3 天前
k8s云原生【第十课】:水平 Pod 自动扩缩容
运维·数据库·云原生·kubernetes·github