【docker】——不启用docker的启动命令,使用自己的

说明:有一些vllm docker镜像 docker run的时候就会启动vllm的服务。而我不想,只是想进入docker容器,并进行一些代码修改之后,再打成镜像,再起vllm服务。

1. 命令

bash 复制代码
# 进入docker容器,运行bash命令,同时挂载了本地/data8路径,8000端口
docker run --name ray -it --entrypoint "" -it -v /data8:/date8 -p 8000:8000 --ipc=host vllm-openai:v0.11.0-lmcache-0.3.9.0 /bin/bash

2. 其他一些有用的docker命令

bash 复制代码
# 重新进入一个docker容器
docker exec -it ray-llm bash

# 提交容器为新的镜像
docker commit ray-llm vllm-openai-aibrix-kvcache:v0.10.2-20251022-lmcache-0.3.7.1
docker commit ray vllm-openai:v0.11.0-lmcache-0.3.9.1

# 用docker启动vllm服务
docker run --name ray-test -it --entrypoint "" --runtime nvidia --gpus '"device=7"' \
    -v /data8:/date8 \
    -p 8000:8000 \
    --ipc=host \
    vllm-openai:v0.11.0-lmcache-0.3.9.1 \
    python3 -m vllm.entrypoints.openai.api_server --model=/Qwen2.5-1.5B-Instruct --trust-remote-code
相关推荐
十年磨一剑~37 分钟前
docker 为何每次 docker tag才能 docker push
docker·容器·eureka
梦梦代码精2 小时前
LikeShop 前后端架构升级对比总白皮书——从传统商城架构到高性能多端统一体系
docker·架构·开源
gs801403 小时前
记一次多 Agent 架构在单节点 K8s 触发的 PID 耗尽与 Pod 驱逐(Evicted)大摸排
容器·架构·kubernetes
Z_W_H_3 小时前
minikube start --driver=docker --memory=4000mb出现PROVIDER_DOCKER_NEWGRP
java·docker·minikube
bukeyiwanshui3 小时前
20260701 k8s Metric Server
容器·贪心算法·kubernetes
江湖有缘4 小时前
基于Docker环境部署tillywork开源工作管理工具
docker·容器·开源
辉的技术笔记5 小时前
Dify 配完了怎么知道对不对?5 个关键指标 + 诊断命令
docker
鸿儒5176 小时前
MR-50国产化GPU docker配置方法
docker·容器·mr
Zhu7587 小时前
在k8s集群部署ApacheHadoop单节点单数据副本
云原生·容器·kubernetes