踩了个大坑!K8s 挂载目录的日志,居然也在吃容器内存?

最近一直收到某个服务pod容器内存超过80%的告警,堆内存加上堆外内存目前看也只有1G左右,但pod内存却达到4G多,查来查去查到active_file对应的logs占用大量内存,目前现状是k8s中springboot服务日志挂载到宿主机/logs目录,/logs目录的所有日志大小有3G,容器内存显示也包含日志的3G,即使挂载出来了也没生效?

挂载设置如下:

YAML 复制代码
volumeMounts:
    - mountPath: /logs
      name: logs-volume
volumes:
 - hostPath:
    path: /logs
    type: ''
   name: logs-volume

那为什么logs挂载到外部还是会占用大量内存?

这里查询资料,K8s/Docker 对容器的内存统计基于 Linux Cgroup 的 memory.usage_in_bytes,该值包含两部分:

  • RSS(常驻内存):Java 进程本身的堆、栈、堆外内存,是程序实际运行占用的内存

  • Page Cache(页面缓存) :进程读写磁盘文件时,内核为提升IO性能而缓存的文件数据,logs占用的内存是 Linux 内核的文件页面缓存(Page Cache)被统计到了容器的 cgroup 内存使用中

Java 复制代码
# 查看cgroup内存统计,关注 rss 字段(进程实际占用),cache 字段是可回收的文件缓存
cat /sys/fs/cgroup/memory/memory.stat
手动清理 Page Cache(临时方案)
进入容器或宿主机执行(需要权限):
# 清理文件缓存,不会影响运行
echo 1 > /proc/sys/vm/drop_caches

当SpringBoot应用向/logs 目录写入 3G 日志时:

  • 即使 /logs 通过 hostPath 挂载到宿主机磁盘,容器内进程写入的所有日志数据都会先进入 Page Cache这部分 3G 的缓存数据会被完整统计到容器的内存使用量中

  • K8s 计算工作集内存(container_memory_working_set_bytes)时使用公式:总内存使用 - 非活跃文件缓存,而频繁写入的日志文件属于"活跃文件(active_file)",不会被扣除,因此最终显示的内存占用就包含了这3G日志大小

关键点是 :即使挂载到了宿主机,但在大量请求服务时,服务在读写日志文件,这时就会一直在操作日志文件没有释放,在 cgroup 的内存统计中,哪个进程触发了 I/O,产生的 Page Cache 就归到哪个进程的 cgroup 里。但之前已经轮换的日志压缩文件不会占用。

还有一点,就是多个一个服务的多个实例在同一个节点,那操作的日志文件就会两个实例同时进行读写 这就可能会导致其中一个实例不会释放这个日志文件或操作轮转失败 一直存在 那内存就会越来越高。

按以下步骤解决

  1. 重启服务释放占用内存达到止血的目的。

  2. 清除一部分日志。

  3. 将同一服务的多实例分配到不同节点。

  4. 将日志轮转时长调短,降低日志量和文件大小,间接减少 Page Cache 上限。

  5. 建议避免在容器内读取日志文件;(但这个日志在写应该很少能满足)

  6. 将logs挂载到NFS中进行收集。

相关推荐
赵文宇(温玉)4 天前
CoreDNS的hosts插件的缺行配置导致k8s集群异常
容器·kubernetes·rancher
张洛闻Eren4 天前
k8s云原生【第十课】:水平 Pod 自动扩缩容
运维·数据库·云原生·kubernetes·github
欢醉4 天前
踩坑记:一次Nacos客户端偶发connect timed out全链路排查
nacos·springcloud
Thneonl4 天前
你的 Pod 为什么 Pending:调度器两阶段
后端·kubernetes
不吃香菜kkk、4 天前
CI/CD(GitOps)学习与部署手册
运维·云原生·容器·kubernetes·云计算·jenkins·argocd
ysu_03145 天前
【2026】K8s GPU调度空占怎么解?Kueue与Volcano Gang配置
云原生·kubernetes·gpu算力·volcano·ai基础设施·kueue·gang scheduling
小小谈电商5 天前
大型集团级 B2B2C 商城落地|微服务高并发电商系统实践复盘
springcloud·商城源码选型·微服务电商·b2b2c商城·集团电商
哈__6 天前
KES-Operator重塑Kubernetes环境下的KES数据库集群管理
数据库·kubernetes·operator·kes
九皇叔叔6 天前
K8S 资源菜单
docker·容器·kubernetes·k8s
安易算力6 天前
PUE优化工程实践:从1.5到1.2的制冷架构与气流组织改造路径
网络·python·容器·架构·kubernetes