kafka producer metrics

背景

做online Service埋点设计,塞了很多节点,采用了base64压缩,希望能监控当前消息的大小,防止超过threshold后无法正常发送。

kafka基本架构

producer metrics

官方文档

其中有两个参数用来表征在kafka的producer的client里,发送的record的size。这些metrics可以通过JMX的MBeans里的configurable properties获得。需要主动导入Prometheus才可以进行深入分析。

复制代码
record-size-avg	The average record size
record-size-max	The maximum record size

那么如何将JMX的一些metrics导入Prometheus呢?

这里有一篇文章讲述如何导出的例子,改文章里的例子单独摘在下方:

附上JMX导入Prometheus的示例:
java agent

producer configs

配置参数文档

可以看到默认的时间窗口是30ms,但是metrics的计算至少需要两个samples。所以窗口可以理解为60s。

相关推荐
BullSmall2 小时前
Kafka单机与集群部署全攻略
分布式·kafka
隐语SecretFlow2 小时前
如何在 Kuscia 上运行 SCQL 联合分析任务
分布式·安全·架构·开源
少许极端2 小时前
Redis入门指南:从零到分布式缓存-hash与list类型
redis·分布式·缓存·list·hash
JavaBoy_XJ3 小时前
Kafka在 Spring Boot 项目中的完整配置指南
spring boot·kafka·kafka配置
jiayong234 小时前
RabbitMQ 完全指南
分布式·rabbitmq
BullSmall5 小时前
JDK17下Kafka部署全指南
分布式·kafka
yqj2347 小时前
kafka使用教程
kafka
BullSmall7 小时前
MinIO分布式存储实战指南
分布式
回家路上绕了弯7 小时前
数据模型设计实战指南:从业务到落地的全流程方法论
分布式·后端
吃好喝好玩好睡好7 小时前
OpenHarmony 分布式环境下 Electron+Flutter 应用的增量更新设计
分布式·flutter·eclipse·electron