【docker】——不启用docker的启动命令,使用自己的

说明:有一些vllm docker镜像 docker run的时候就会启动vllm的服务。而我不想,只是想进入docker容器,并进行一些代码修改之后,再打成镜像,再起vllm服务。

1. 命令

bash 复制代码
# 进入docker容器,运行bash命令,同时挂载了本地/data8路径,8000端口
docker run --name ray -it --entrypoint "" -it -v /data8:/date8 -p 8000:8000 --ipc=host vllm-openai:v0.11.0-lmcache-0.3.9.0 /bin/bash

2. 其他一些有用的docker命令

bash 复制代码
# 重新进入一个docker容器
docker exec -it ray-llm bash

# 提交容器为新的镜像
docker commit ray-llm vllm-openai-aibrix-kvcache:v0.10.2-20251022-lmcache-0.3.7.1
docker commit ray vllm-openai:v0.11.0-lmcache-0.3.9.1

# 用docker启动vllm服务
docker run --name ray-test -it --entrypoint "" --runtime nvidia --gpus '"device=7"' \
    -v /data8:/date8 \
    -p 8000:8000 \
    --ipc=host \
    vllm-openai:v0.11.0-lmcache-0.3.9.1 \
    python3 -m vllm.entrypoints.openai.api_server --model=/Qwen2.5-1.5B-Instruct --trust-remote-code
相关推荐
凯子坚持 c3 小时前
Docker实战指南:MySQL、Redis与C++环境的深度容器化部署
redis·mysql·docker
Mr_sun.3 小时前
Docker中安装软件汇总(留存版)
运维·docker·容器
惊鸿Randy3 小时前
Spring Boot 应用 Docker 部署完整指南
spring boot·docker
一只游鱼4 小时前
Docker部署微服务
docker
是Judy咋!4 小时前
Kubernetes+Etcd----集群安装(etcd证书100年)
容器·kubernetes·etcd
雨中飘荡的记忆4 小时前
Docker与Java实战指南
java·docker·容器
AllinGold5 小时前
Centos stream9 安装docker并配置镜像源 实现github docker项目部署
docker·centos·github
Gold Steps.5 小时前
K8S云原生部署Harbor镜像仓库与镜像漏扫Trivy的使用
云原生·容器·kubernetes
峰顶听歌的鲸鱼5 小时前
14.docker:镜像
运维·笔记·docker·容器·学习方法