docker 迁移

第一步:源服务器打包镜像

bash

复制代码
docker save zj/vllm-zj-v100:v20260530 | gzip > vllm-zj-v100-20260530.tar.gz

第二步:同步三样东西

bash

复制代码
# 1. 镜像包
scp vllm-zj-v100-20260530.tar.gz root@新服务器IP:/tmp/

# 2. compose 文件(放到新服务器对应目录)
scp docker-compose.yml root@新服务器IP:/data/metahuman_work/ZengKingMorphe/zj-aha-vllm-v100/

# 3. 模型目录(大文件,用 rsync)
rsync -avP /data/metahuman_work/models/ root@新服务器IP:/data/metahuman_work/models/

第三步:新服务器导入并启动

bash

复制代码
gunzip -c /tmp/vllm-zj-v100-20260530.tar.gz | docker load
docker images | grep vllm-zj-v100

cd /data/metahuman_work/ZengKingMorphe/zj-aha-vllm-v100
docker compose up -d
docker logs -f zj-vllm-Qwen3-14B-AWQ

🔍 启动前还要确认两件事

① 模型目录路径要一致

compose 里挂载的是 /data/metahuman_work/models:/models,命令里引用的是 /models/Qwen3-14B-AWQ。所以新服务器上模型必须放在 /data/metahuman_work/models/Qwen3-14B-AWQ,路径一个字都不能差,否则容器内找不到模型。

② 模型目录内容要完整

确认 Qwen3-14B-AWQ 里有:

  • 模型权重(.safetensors 等)

  • qwen3_nonthinking.jinja(命令里用到了,缺了会启动失败)

bash

复制代码
ls /data/metahuman_work/models/Qwen3-14B-AWQ/

💡 如果新服务器没有 NVIDIA Container Toolkit

gpus: 这个字段依赖 NVIDIA Container Toolkit。如果新服务器上 docker compose up 报 GPU 相关错误,先装:

bash

复制代码
# 确认 nvidia 驱动正常
nvidia-smi
# 确认容器运行时
docker run --rm --gpus all nvidia/cuda:12.0-base nvidia-smi
相关推荐
七夜zippoe2 小时前
Nexent Linux 部署:用 deploy.sh
linux·服务器·docker·部署·ai智能体·nexent
cpolar技术支持5 小时前
容器数是 6 个、6 个、还是 6 个,可服务早被换掉了:用一个 5.5MB 的 Go 单文件把机器每周的变化记下来,再给它套一层别人看不懂的入口
python·docker·ai·cpolar
csdn_aspnet1 天前
macOS 10 、Docker 玩轉 MySQL
运维·mysql·macos·docker·容器·mac
对象存储与RustFS1 天前
Jenkins 的构建产物别堆在控制器磁盘:用 RustFS 当它的 S3 工件仓库
后端·docker·云原生
java_logo2 天前
Docker 部署 DeepSeek Harness(moelin):轻松搭建带登录的本地 AI Agent 平台
运维·docker·容器·ai agent·deepseek·harness·轩辕镜像
xbzb2 天前
容器 IP 每次重建都变?docker network 五种模式与自定义网桥固定地址
网络·docker·容器·ip·network·固定
打工仔折腾 AI2 天前
Changedetection.io 网页变动监控:Docker 部署、通知配置与公网暴露实践
运维·人工智能·后端·python·docker·容器·性能优化
xbzb2 天前
自建镜像仓库:registry 一条命令 + harbor 部署、授权、跨库同步与卸载
docker·harbor·镜像·仓库·同步·registry
wz97543 天前
Docker 从 systemd 托管容器、overlay2 存储驱动到 Compose 多容器实战
spring cloud·docker·eureka
新*3 天前
ES 7.17 三节点 Docker 集群接入 IK 自定义词典:一次从丢插件到热更新的完整排障
运维·elasticsearch·docker·中文分词·ik分词