kafka producer metrics

背景

做online Service埋点设计,塞了很多节点,采用了base64压缩,希望能监控当前消息的大小,防止超过threshold后无法正常发送。

kafka基本架构

producer metrics

官方文档

其中有两个参数用来表征在kafka的producer的client里,发送的record的size。这些metrics可以通过JMX的MBeans里的configurable properties获得。需要主动导入Prometheus才可以进行深入分析。

复制代码
record-size-avg	The average record size
record-size-max	The maximum record size

那么如何将JMX的一些metrics导入Prometheus呢?

这里有一篇文章讲述如何导出的例子,改文章里的例子单独摘在下方:

附上JMX导入Prometheus的示例:
java agent

producer configs

配置参数文档

可以看到默认的时间窗口是30ms,但是metrics的计算至少需要两个samples。所以窗口可以理解为60s。

相关推荐
gs8014016 小时前
Celery — 后端异步任务与分布式任务队列的黄金标准
分布式
2***574217 小时前
后端在分布式中的Nacos
分布式
gggg远17 小时前
RabbitMQ详解(完结)
分布式·rabbitmq
DeepFlow 零侵扰全栈可观测17 小时前
DeepFlow 全栈可观测性 护航某银行核心系统全生命周期
数据库·人工智能·分布式·云原生·金融
最笨的羊羊17 小时前
Flink CDC系列之: Kafka 数据接收器实现类KafkaDataSink
kafka·flink cdc系列·数据接收器实现类·kafkadatasink
BD_Marathon18 小时前
【Zookeeper】CAP理论——BASE定理及ZK追求的一致性
分布式·zookeeper·云原生
大迪吃小迪18 小时前
Kafka 技术问答总结文档(与RocketMQ对比)
分布式·kafka
e***582318 小时前
分布式推理框架 xDit
分布式
杀死那个蝈坦18 小时前
UV 统计(独立访客统计)
java·jvm·spring·kafka·tomcat·maven
z***565618 小时前
Spring Boot集成Kafka:最佳实践与详细指南
spring boot·kafka·linq