K8S升级到1.24后,切换运行时导致 dind 构建镜像慢根因定位与解决

背景:

在aws部署没问题,dind 部署在腾讯云上,升级到1.24后,jenkins 构建速度特别慢,发现原来只占用10g的磁盘,升级后发现占用超过十倍的存储空间(取决于dockerfile中的层数)。

根因:

aws 中运行的dind 使用的 "storage-driver": "overlay2" ,腾讯云中运行的dind 使用的 "storage-driver": "vfs"

进入容器,执行命令 docker info 可以看到

Storage Driver: vfs (腾讯云)

以下是 vfs 和 overlay2 存储驱动的主要区别:

vfs (Virtual File System)

vfs 是一种非常简单的存储驱动,它将每个容器的文件系统作为一个独立的目录存储在主机文件系统中。

每个容器的文件系统都是一个完整的复制,而不是共享底层文件系统。

overlay2

overlay2 是一种更高级的存储驱动,基于 Linux 内核的 overlay 文件系统。

它使用分层机制,允许多个容器共享相同的镜像层,从而节省磁盘空间和提高启动速度。

看完差异就定位到原因了。

示例yaml

复制代码
apiVersion: v1
kind: Pod
metadata:
  name: clean-ci
spec:
  containers:
  - name: dind
    image: 'docker:stable-dind'
    command:
    - dockerd
    - --host=unix:///var/run/docker.sock
    - --host=tcp://0.0.0.0:2376
    securityContext:
      privileged: true
    volumeMounts:
    - mountPath: /var/run
      name: cache-dir
    - mountPath: /var/lib # 挂载目录,使用主机的存储驱动,否则使用默认vfs驱动 或 /var/lib/docker
      name: host-lib
  - name: clean-ci
    image: 'docker:stable'
    command: ["/bin/sh"]
    args: ["-c", "docker info >/dev/null 2>&1; while [ $? -ne 0 ] ; do sleep 3; docker info >/dev/null 2>&1; done; docker pull library/busybox:latest; docker save -o busybox-latest.tar library/busybox:latest; docker rmi library/busybox:latest; while true; do sleep 86400; done"]
    volumeMounts:
    - mountPath: /var/run
      name: cache-dir
    - mountPath: /var/lib # 挂载目录,使用主机的存储驱动,否则使用默认vfs驱动  或 /var/lib/docker
      name: host-lib
  volumes:
  - name: cache-dir
    emptyDir: {}
  - name: host-lib
    hostPath:
      path: /data/lib
      type: ''
相关推荐
学习3人组3 小时前
Docker 从本地Label-studio导入 tar 镜像包
运维·docker·容器
羑悻的小杀马特3 小时前
Docker-Android 容器化 + cpolar 穿透,完善异地调试
android·运维·docker·容器·cpolar
Y.O.U..3 小时前
Kubernetes-网络策略
网络·容器·kubernetes
lpfasd1233 小时前
Docker 使用注意事项:从磁盘爆满到安全实践的完整避坑指南
安全·docker·容器
勇气要爆发5 小时前
Docker+Ollama+LangChain:从零搭建企业级“隐私优先”本地 RAG 知识库 (附源码)
docker·容器·langchain·lora·rag·ollama·llama 3
水上冰石7 小时前
Kubernetes Ingress + TLS 故障排查全流程
云原生·容器·kubernetes
岁岁种桃花儿8 小时前
K8s核心流量管理:Ingress与Service深度解析及实战对比
云原生·容器·kubernetes
晚霞的不甘8 小时前
Flutter for OpenHarmony 进阶实战:打造 60FPS 流畅的物理切水果游戏
javascript·flutter·游戏·云原生·正则表达式
市安8 小时前
docker命令知识点1
运维·docker·云原生·容器·eureka
天才奇男子9 小时前
LVS原理及部署
linux·运维·云原生·wpf·lvs·linux chrony