flink中值得监控的几个指标

背景

为了维持flink的正常运行,对flink的日常监控就变得很重要,本文我们就来看一下flink中要监控的几个重要的指标

重要的监控指标

1.算子的处理速度的指标:numRecordsInPerSecond/numRecordsOutPerSecond,这有助于你了解到算子的是否正在合理运行

2.应用的监控度: uptime表示应用已经持续运行的时间,numRestarts表示job被重启的次数,重启的原因很多种,比如内存占用过多被killed等

3.检查点健康度: numberOfCompletedCheckpoints表示已经完成的检查点数目, numberOfFailedCheckpoints表示未能完成的检查点数目(比如因为状态太多导致超时等未能完成checkpoint操作),

numberOfInProgressCheckpoints表示正在进行中的检查点数目,lastCheckpointDuration表示检查点的持续时间,过长的时间会导致checkpoint失败,

lastCheckpointFullSize表示检查点的大小,这可以帮你检查应用状态大小是否正常

4.基于事件时间的应用的处理延迟:可以对比eventtime和当前时间的延迟,这可以知道是否发生了数据倾斜等问题,导致watermark一直未能前进

5.jvm和容器指标:Jvm使用的内存/cpu大小,容器使用的内存大小(包括jvm+其他组件)

相关推荐
wang_yb2 小时前
数据分析师的“水晶球”:时间序列分析
大数据·databook
ModestCoder_3 小时前
Git 版本管理教程
大数据·git·elasticsearch
hg01183 小时前
湖南工程机械海外火爆,非洲成为出口新增长极
大数据
乐迪信息3 小时前
乐迪信息:异物入侵识别算法上线,AI摄像机保障智慧煤矿生产稳定
大数据·运维·人工智能·物联网·安全
熬夜敲代码的小N4 小时前
从SEO到GEO:AI时代内容优化的范式革命
大数据·人工智能·计算机网络
DX_水位流量监测5 小时前
压力式水位计的技术特性与应用实践
大数据·网络·人工智能·安全·信息可视化
hg01185 小时前
中企承建的突尼斯光伏项目实现商业运营
大数据
豌豆学姐5 小时前
Sora2 能做什么?25 秒视频生成 API 的一次接入实践
大数据·人工智能·小程序·aigc·php·开源软件
躺柒6 小时前
读共生:4.0时代的人机关系02人机合作后
大数据·人工智能·机器人·人机交互·人机协作·人机对话
ST小智6 小时前
2025年创作历程回顾与个人生活平衡
大数据·linux·人工智能