【docker】——不启用docker的启动命令,使用自己的

说明:有一些vllm docker镜像 docker run的时候就会启动vllm的服务。而我不想,只是想进入docker容器,并进行一些代码修改之后,再打成镜像,再起vllm服务。

1. 命令

bash 复制代码
# 进入docker容器,运行bash命令,同时挂载了本地/data8路径,8000端口
docker run --name ray -it --entrypoint "" -it -v /data8:/date8 -p 8000:8000 --ipc=host vllm-openai:v0.11.0-lmcache-0.3.9.0 /bin/bash

2. 其他一些有用的docker命令

bash 复制代码
# 重新进入一个docker容器
docker exec -it ray-llm bash

# 提交容器为新的镜像
docker commit ray-llm vllm-openai-aibrix-kvcache:v0.10.2-20251022-lmcache-0.3.7.1
docker commit ray vllm-openai:v0.11.0-lmcache-0.3.9.1

# 用docker启动vllm服务
docker run --name ray-test -it --entrypoint "" --runtime nvidia --gpus '"device=7"' \
    -v /data8:/date8 \
    -p 8000:8000 \
    --ipc=host \
    vllm-openai:v0.11.0-lmcache-0.3.9.1 \
    python3 -m vllm.entrypoints.openai.api_server --model=/Qwen2.5-1.5B-Instruct --trust-remote-code
相关推荐
Knight_AL7 小时前
本地服务连接 SaaS 测试环境实践:Docker 部署 Redis 与 RocketMQ 完成接口联调
redis·docker·rocketmq
无人生还别怕8 小时前
如何安装任意版本docker
运维·docker·容器
帷幕落秋9 小时前
Docker镜像加速
运维·docker
帷幕落秋9 小时前
Docker原理-理论基础
运维·docker
TTATTC9 小时前
告别开源 Agent 的本地运维折磨:拆解阿里 QoderWork 的沙盒隔离架构与三级渐进式 Skills 编排实践
docker·开源
帷幕落秋9 小时前
Docker常见命令总结
docker
程序员老赵10 小时前
Docker 部署 Redmine:轻松搭建私有化项目管理平台
docker·容器·开源
Baron X10 小时前
Eclipse Temurin 21 (JRE) Alpine 镜像获取、离线导入与推送操作
java·docker·eclipse·temurin
小楼昨夜又东风12611 小时前
一文理清K8s PVC挂载完整流程
容器·rpc·kubernetes
深蓝电商API11 小时前
Docker+K8s部署爬虫:从单机到集群的完整路线
爬虫·docker·k8s