vLLM + Docker 一键调试实战指南

目录

docker删除容器

[1. 在容器内时,先退出容器](#1. 在容器内时,先退出容器)

[2. 查看容器](#2. 查看容器)

[3. 删除容器](#3. 删除容器)

下载docker容器

v100显卡,比较老:

[1. 配置 (devcontainer.json)](#1. 配置 (devcontainer.json))

[2. 操作流程](#2. 操作流程)


docker删除容器

1. 在容器内时,先退出容器

在容器内输入 exit 或按 Ctrl+D

2. 查看容器

复制代码
docker ps -a | grep vllm/vllm-openai:v0.11.0

找到对应的容器 ID 或名称(比如 CONTAINER IDNAMES 列)

3. 删除容器

方法一:强制删除(推荐)

复制代码
docker rm -f <容器ID或名称>

例如:docker rm -f 637790aed0b8

方法二:先停止再删除

复制代码
docker stop <容器ID或名称>
docker rm <容器ID或名称>

下载docker容器

bash 复制代码
docker run --gpus all -it \
  -v /data/lbg/models:/models \
  --entrypoint bash \
  vllm/vllm-openai:v0.9.0

v100显卡,比较老:

bash 复制代码
docker run --gpus all -it \
  -v /data/lbg/models:/models \
  --entrypoint bash \
  vllm/vllm-openai:v0.6.3.post1

1. 配置 (devcontainer.json)

你需要在你本地的项目目录(/data/project/aaa)下创建一个 .devcontainer 文件夹,并在里面新建一个 devcontainer.json 文件。这个文件告诉 VS Code 该如何为你搭建环境,你可以参考以下配置,针对你的 vllm/vllm-openai:v0.9.0 镜像进行定制:

python 复制代码
{
    "name": "vLLM Dev Container",
    // 1. 指定你下载的那个 Docker 镜像作为基础
    "image": "vllm/vllm-openai:v0.9.0",
    // 2. 告诉 VS Code 要使用宿主机上的 GPU
    "runArgs": ["--gpus", "all"],


    "mounts": [
        "source=/data/metahuman_work/lbg/models,target=/data/lbg/models,type=bind",
        "source=/data/metahuman_work/lbg/project,target=/workspace,type=bind"
    ],
    "workspaceFolder": "/workspace",
    // 4. 【核心】容器创建后自动执行的命令,保持容器不退出
    "postCreateCommand": "echo 'Container is ready' && sleep infinity",
    // 5. 为 VS Code 设置,让你编程更顺手
    "customizations": {
        "vscode": {
            // 自动安装这些好用的插件
            "extensions": [
                "ms-python.python",
                "ms-python.vscode-pylance"
            ],
            "settings": {
                "terminal.integrated.shell.linux": "/bin/bash"
            }
        }
    }
}

2. 操作流程

有了上面的配置文件,操作流程可就比敲命令简单多了:

  1. 用 VS Code 打开项目 :直接打开你的项目文件夹 /data/lbg/project/text2latex

  2. 重新在容器中打开

    • 按下 F1 打开命令面板。

    • 输入并选择 Dev Containers: Reopen in Container

  3. 等待并享受

    • VS Code 会读取你的 devcontainer.json 配置,自动拉取/启动容器,并完成所有挂载和设置。

    • 当左下角显示 Dev Container: vLLM Dev Container 时,你就已经在容器内部了。现在打开 VS Code 的终端,所有的命令都是直接在容器里执行的。

相关推荐
Westward-sun.2 小时前
BERT 模型深度解析:从 Transformer Encoder 到预训练语言理解模型
人工智能·bert·transformer
Gofarlic_oms12 小时前
Adams许可排队严重?不想买新许可,闲置回收立即可用
java·大数据·服务器·开发语言·人工智能
元让_vincent2 小时前
文献风暴中的导航系统:我做了一个 3DGS-SLAM 文献与数据集导航仓库:支持网页检索、自动更新 README、论文查重,欢迎 Star 和 Fork!
人工智能·3d·开源·综述·3dgs
AI棒棒牛2 小时前
YOLO26:面向实时目标检测的核心架构改进与性能基准测试
人工智能·深度学习·yolo·目标检测·架构
财经资讯数据_灵砚智能2 小时前
基于全球经济类多源新闻的NLP情感分析与数据可视化(日间)2026年5月8日
大数据·人工智能·python·信息可视化·自然语言处理
乐迪信息2 小时前
乐迪信息:AI防爆摄像机,船舶偏航逆行算法实时告警零漏检
大数据·人工智能·物联网·算法·机器学习·计算机视觉·目标跟踪
夏莉莉iy3 小时前
[ICCV 2023]Scalable Diffusion Models with Transformers
人工智能·深度学习·transformer·图像·扩散模型·视觉·dit
深蓝易网3 小时前
工厂目视化实操手册,告别形式主义
运维·网络·数据库·人工智能·汽车
程序大视界3 小时前
Agent Skills:让AI助手真正“有技能“的开源标准,正在悄悄改变整个行业
人工智能·开源