kafka producer metrics

背景

做online Service埋点设计,塞了很多节点,采用了base64压缩,希望能监控当前消息的大小,防止超过threshold后无法正常发送。

kafka基本架构

producer metrics

官方文档

其中有两个参数用来表征在kafka的producer的client里,发送的record的size。这些metrics可以通过JMX的MBeans里的configurable properties获得。需要主动导入Prometheus才可以进行深入分析。

复制代码
record-size-avg	The average record size
record-size-max	The maximum record size

那么如何将JMX的一些metrics导入Prometheus呢?

这里有一篇文章讲述如何导出的例子,改文章里的例子单独摘在下方:

附上JMX导入Prometheus的示例:
java agent

producer configs

配置参数文档

可以看到默认的时间窗口是30ms,但是metrics的计算至少需要两个samples。所以窗口可以理解为60s。

相关推荐
雨言yyds10 小时前
Kafka
分布式·kafka
学到头秃的suhian14 小时前
Redis分布式锁
java·数据库·redis·分布式·缓存
若水不如远方15 小时前
分布式一致性原理(四):工程化共识 —— Raft 算法
分布式·后端·算法
三水不滴15 小时前
千万级数据批处理实战:SpringBoot + 分片 + 分布式并行处理方案
spring boot·分布式·后端
笨蛋不要掉眼泪15 小时前
从单体到分布式:一次完整的架构演进之旅
分布式·架构
会算数的⑨15 小时前
Spring AI Alibaba 学习(三):Graph Workflow 深度解析(下篇)
java·人工智能·分布式·后端·学习·spring·saa
认真的薛薛15 小时前
数据库-日志管理、备份恢复与主从同步
数据库·分布式·mysql
invicinble16 小时前
分布式组件的全域认识和操作--gateway
分布式·gateway
Andy Dennis16 小时前
分布式ID方案学习
分布式
三点水-here17 小时前
04 - 分布式大模型推理实战:TP/PP/EP并行策略深度解析
分布式·rdma·nccl·moe·流水线并行·张量并行·专家并行