【docker】——不启用docker的启动命令,使用自己的

说明:有一些vllm docker镜像 docker run的时候就会启动vllm的服务。而我不想,只是想进入docker容器,并进行一些代码修改之后,再打成镜像,再起vllm服务。

1. 命令

bash 复制代码
# 进入docker容器,运行bash命令,同时挂载了本地/data8路径,8000端口
docker run --name ray -it --entrypoint "" -it -v /data8:/date8 -p 8000:8000 --ipc=host vllm-openai:v0.11.0-lmcache-0.3.9.0 /bin/bash

2. 其他一些有用的docker命令

bash 复制代码
# 重新进入一个docker容器
docker exec -it ray-llm bash

# 提交容器为新的镜像
docker commit ray-llm vllm-openai-aibrix-kvcache:v0.10.2-20251022-lmcache-0.3.7.1
docker commit ray vllm-openai:v0.11.0-lmcache-0.3.9.1

# 用docker启动vllm服务
docker run --name ray-test -it --entrypoint "" --runtime nvidia --gpus '"device=7"' \
    -v /data8:/date8 \
    -p 8000:8000 \
    --ipc=host \
    vllm-openai:v0.11.0-lmcache-0.3.9.1 \
    python3 -m vllm.entrypoints.openai.api_server --model=/Qwen2.5-1.5B-Instruct --trust-remote-code
相关推荐
岁岁种桃花儿12 小时前
kubenetes从入门到上天系列第二十一篇:Kubernetes安装Ingress实战
云原生·容器·kubernetes
洛阳泰山14 小时前
MaxKB4j Docker Compose 部署指南
java·docker·llm·springboot·rag·maxkb4j
程序员老赵14 小时前
超全 Docker 镜像源配置指南|Windows/Mac/Linux一键搞定,拉镜像再也不卡顿
linux·后端·容器
一殊酒15 小时前
【Docker】Docker Desktop 安装指南及汉化教程
运维·docker·容器
0w0不秃头程序猿15 小时前
guide哥AI智能面试项目部署过程
云原生·eureka
Drone_xjw15 小时前
【环境搭建】Windows 10上使用Docker搭建本地Git仓库(Gitea)完整教程
windows·git·docker
vpk11218 小时前
【无标题】
运维·elasticsearch·docker
❀͜͡傀儡师18 小时前
通过npm 手动安装、Docker 部署 OpenClaw小龙虾
前端·docker·npm
一殊酒20 小时前
【Docker】快速入门指南
运维·docker·容器
**蓝桉**20 小时前
prometheus监控docker容器(Rocky9)
docker·容器·prometheus