聊聊RocketMQ中的broker的TPS和QPS为何相差巨大,是如何统计的

这里是weihubeats ,觉得文章不错可以关注公众号小奏技术,文章首发。拒绝营销号,拒绝标题党

最近在看RocketMQ的一些监控指标的时候,总觉得一些监控指标不太对,好像对不上。

所以打算研究下看看RocketMQ中的 broker TPSbroker QPS,producer TPS 这些指标是怎么统计出来的。为什么broker的QPS有时候会和TPS相差很大

Broker TPS

我们先来看看broker TPS是如何统计的吧

这里我们直接以最新的rocketmq-exporter源码进行查看

这里可以看到exporter主要是通过获取BrokerStatsManager.BROKER_PUT_NUMS这个指标来上报broker TPS

我们去RocketMQ源码看看这个指标是如何统计的

首先找到org.apache.rocketmq.common.stats.Stats#BROKER_PUT_NUMS

然后我们看看调用,具体是在哪里进行计数的

计数的地方有两个,一个是每次加1,一次是每次添加指定的数量

我们先看看加1的地方

这里可以看到是消息存储成功后就加+1,也就是每次消息发送成功后就+1

我们再看看另一个一个批量添加数据的地方

可以看到也是消息发送成功存储后就计数,这里包含的一些消息有比如PoP方式的消息、普通消息、延时消息、request-reply消息等

总结: 总的来说broker TPS的统计方式就通过统计每秒总共发送了多少消息量

Broker QPS

我们还是看看broker QPS是如何统计的

这里的指标主要是BrokerStatsManager.BROKER_GET_NUMS

我们去RocketMQ源码看看是如何统计的

可以看到拉取消息的时候会进行计数,也就是消息消费时候统计的。

所以QPS就是每秒消息消费的QPS

为什么QPS和TPS差异那么大

实际这是正常的,比如我们的TPS是2w,也就是每秒我们发送了2w的消息,我们每条消息如果是3个消费者,就是一条消息被消费3次,就是QPS差不多相比TPS会多4倍,差不多是6W左右

所以一般QPS都会高于TPS

producer TPS

producer TPS是以为Topic为,正常所有topic的 TPS之和应该是等于broker的TPS

总结

总的来说一般一条消息会被多个业务方消费,所以QPS都是会大于TPS的。

TPS主要是统计写消息量

QPS主要是统计读(消费)消息量

主要注意的是rocketmq-exporter官方目前的统计是有一个小bug的

统计的一些QPS、TPS改成统计的是TPM。所以如果要修复这个bug可以参考这个pr

github.com/apache/rock...

相关讨论可以参考这个issues

github.com/apache/rock...

相关推荐
李慕婉学姐5 分钟前
Springboot面向电商的仓库管理系统05uc4267(程序+源码+数据库+调试部署+开发环境)带论文文档1万字以上,文末可获取,系统界面在最后面。
数据库·spring boot·后端
用户990450177800933 分钟前
ruoyi-vue2集成flowable6.7.2后端篇
后端
qq_124987075337 分钟前
基于springboot框架的小型饮料销售管理系统的设计与实现(源码+论文+部署+安装)
java·spring boot·后端·spring·毕业设计
我命由我1234544 分钟前
Python Flask 开发:在 Flask 中返回字符串时,浏览器将其作为 HTML 解析
服务器·开发语言·后端·python·flask·html·学习方法
IT_陈寒1 小时前
JavaScript 性能优化:5个被低估的V8引擎技巧让你的代码提速50%
前端·人工智能·后端
想用offer打牌1 小时前
数据库大事务有什么危害(面试版)
数据库·后端·架构
踏浪无痕1 小时前
别再只会用 Feign!手写一个 Mini RPC 框架搞懂 Spring Cloud 底层原理
后端·面试·架构
用户695619440371 小时前
前后端分离VUE3+Springboot项目集成PageOffice核心代码
后端
rannn_1111 小时前
【Git教程】概述、常用命令、Git-IDEA集成
java·git·后端·intellij-idea
我家领养了个白胖胖1 小时前
向量化和向量数据库redisstack使用
java·后端·ai编程