【docker】——不启用docker的启动命令,使用自己的

说明:有一些vllm docker镜像 docker run的时候就会启动vllm的服务。而我不想,只是想进入docker容器,并进行一些代码修改之后,再打成镜像,再起vllm服务。

1. 命令

bash 复制代码
# 进入docker容器,运行bash命令,同时挂载了本地/data8路径,8000端口
docker run --name ray -it --entrypoint "" -it -v /data8:/date8 -p 8000:8000 --ipc=host vllm-openai:v0.11.0-lmcache-0.3.9.0 /bin/bash

2. 其他一些有用的docker命令

bash 复制代码
# 重新进入一个docker容器
docker exec -it ray-llm bash

# 提交容器为新的镜像
docker commit ray-llm vllm-openai-aibrix-kvcache:v0.10.2-20251022-lmcache-0.3.7.1
docker commit ray vllm-openai:v0.11.0-lmcache-0.3.9.1

# 用docker启动vllm服务
docker run --name ray-test -it --entrypoint "" --runtime nvidia --gpus '"device=7"' \
    -v /data8:/date8 \
    -p 8000:8000 \
    --ipc=host \
    vllm-openai:v0.11.0-lmcache-0.3.9.1 \
    python3 -m vllm.entrypoints.openai.api_server --model=/Qwen2.5-1.5B-Instruct --trust-remote-code
相关推荐
kft13146 小时前
SkyWalking10.3.0-性能监控管理工具部署教程-Docker模式(二)-保姆级教程
运维·docker·容器
深入技术了解原理7 小时前
eureka-client依赖爆红无法下载
spring cloud·云原生·eureka
等风来不如迎风去7 小时前
【docker】ubuntu空间不够了,删除ragflow
ubuntu·docker·容器
hanyi_qwe7 小时前
Pod控制器与配置资源管理 【K8S (七)】
容器·kubernetes
墨笔之风7 小时前
Linux (Docker环境)GitLab本地部署指南
linux·docker·gitlab
小趴菜吖8 小时前
Ralph部署文档
容器
bloglin999998 小时前
hub.docker.com和docker.com
java·docker·eureka
乐之者v8 小时前
如何访问k8s集群部署的微服务内部服务接口
微服务·容器·kubernetes
mr_orange_klj8 小时前
关于K8s身份权限的AI问答(豆包)
java·容器·kubernetes
Leo July8 小时前
Kubernetes全解析:从容器编排到云原生实战
云原生·容器·kubernetes