【docker】——不启用docker的启动命令,使用自己的

说明:有一些vllm docker镜像 docker run的时候就会启动vllm的服务。而我不想,只是想进入docker容器,并进行一些代码修改之后,再打成镜像,再起vllm服务。

1. 命令

bash 复制代码
# 进入docker容器,运行bash命令,同时挂载了本地/data8路径,8000端口
docker run --name ray -it --entrypoint "" -it -v /data8:/date8 -p 8000:8000 --ipc=host vllm-openai:v0.11.0-lmcache-0.3.9.0 /bin/bash

2. 其他一些有用的docker命令

bash 复制代码
# 重新进入一个docker容器
docker exec -it ray-llm bash

# 提交容器为新的镜像
docker commit ray-llm vllm-openai-aibrix-kvcache:v0.10.2-20251022-lmcache-0.3.7.1
docker commit ray vllm-openai:v0.11.0-lmcache-0.3.9.1

# 用docker启动vllm服务
docker run --name ray-test -it --entrypoint "" --runtime nvidia --gpus '"device=7"' \
    -v /data8:/date8 \
    -p 8000:8000 \
    --ipc=host \
    vllm-openai:v0.11.0-lmcache-0.3.9.1 \
    python3 -m vllm.entrypoints.openai.api_server --model=/Qwen2.5-1.5B-Instruct --trust-remote-code
相关推荐
瑞克-桑切斯4 小时前
docker Harbor 单机部署手册
大数据·运维·elasticsearch·docker·容器
wzq11_6665 小时前
Kubernetes集群——存储管理
云原生·容器·kubernetes
闲云自留地1 天前
K8s 的记忆大脑!ETCD 集群部署、etcdctl 命令与备份恢复全通关
容器·kubernetes·etcd
孙克旭_1 天前
k8s基础组件与创建资源
运维·docker·容器·kubernetes
java_logo2 天前
Docker 部署 EmulatorJS:轻松搭建浏览器复古游戏平台
游戏·docker·容器·复古游戏·轩辕镜像·emulatorjs·红白机
吴声子夜歌2 天前
Kubernetes权威指南——网络原理(一)
网络·容器·kubernetes
方便面不加香菜2 天前
Docker Container --容器及容器的操作案例详解
运维·docker·容器
无人生还别怕2 天前
如何搭建docker仓库(轻量级)registry
linux·运维·docker·云原生·容器·registry·openanolisos
YYYing.3 天前
【K8s系列 (一) 】Docker与容器(上篇)
docker·云原生·容器·kubernetes
csdn_aspnet3 天前
使用 Docker 和 RedisInsight 设置 Redis 以进行本地开发
redis·docker·容器·redisinsight