RocketMQ Broker 出现OutMemoryError: Direct Buffer memory

问题说明

查看RocketMQ Broker的日志:remoting.log,发现有以下报错:OutOfMemoryError: Direct buffer memory 或者rocketmq-client的日志:

问题分析

问题直接原因

DirectBuffer内存溢出和以下jvm参数有关系,DirectBuffer内存超过MaxDirectMemorySize就会报内存溢出

shell 复制代码
-XX:MaxDirectMemorySize=15g

导致DirectBuffer过大的原因

MessageExtEncoder

DirectBuffer内存在RocketMQ broker中,除了网络外,只有一个地方会使用到: 每个MessageExtEncoder申请的DirectBuffe的内存大小,是由broker的配置maxMessageSize指定:

shell 复制代码
# 限制的消息大小 128M
maxMessageSize=134217728

MessageExtEncoder 又是被CommitLog#putMessageThreadLocal这个ThreadLocal持有的,所以MessageExtEncoder申请的DirectBuffe总的内存大小,和线程数有关系。

使用MessageExtEncoder的场景

消息写入commitlog

消息写commitlog的时候,会使用putMessageThreadLocal 对消息序列化。 代码入口:CommitLog#asyncPutMessage 写入commitlog的线程数由sendMessageThreadPoolNums参数决定,默认值:

shell 复制代码
Math.min(Runtime.getRuntime().availableProcessors(), 4)

延迟消息

代码入口:DeliverDelayedMessageTimerTask#executeOnTimeup RocketMQ延迟消息分为18个等级,也会有18个线程。

事务消息

代码入口:EndTransactionProcessor#sendFinalMessage 事务消息的线程由 endTransactionThreadPoolNums参数决定,默认值:

shell 复制代码
Math.max(8 + Runtime.getRuntime().availableProcessors() * 2, sendMessageThreadPoolNums * 4)

RPC消息

代码入口:ReplyMessageProcessor#processReplyMessageRequest RPC消息的线程由processReplyMessageThreadPoolNums参数决定,默认值:

shell 复制代码
16 + Runtime.getRuntime().availableProcessors() * 2

PULL_OFFSET_MOVED

代码入口: PullMessageProcessor#generateOffsetMovedEvent 出现PULL_OFFSET_MOVED原因有三个: NO_MESSAGE_IN_QUEUE broker的最大偏移量为0

OFFSET_OVERFLOW_BADLY 消息请求偏移量大于broker最大的偏移量

OFFSET_TOO_SMALL消息请求偏移量小于broker最小的偏移量

正常情况下,消息拉取不会用到堆外内存,但是当消费偏移量有问题时,才会使用到堆外内存。

消息拉取线程数量由pullMessageThreadPoolNums参数决定,默认值:

shell 复制代码
16 + Runtime.getRuntime().availableProcessors() * 2

出现PULL_OFFSET_MOVED的时候,在broker.log的日志中会打印以下日志:PULL_OFFSET_MOVED:correction 通过这个日志可以看到出问题的topic和消费者组名称。

问题解决

通过问题的分析,可以知道RocketMQ Broker的最大堆外内存是:

shell 复制代码
(sendMessageThreadPoolNums 
+ endTransactionThreadPoolNums
+ processReplyMessageThreadPoolNums 
+ pullMessageThreadPoolNums 
+ 18) * maxMessageSize

查看broker.conf配置和jvm参数: 发现-XX:MaxDirectMemorySize=15g,而maxMessageSize * pullMessageThreadPoolNums 已经16g,超过了MaxDirectMemorySize。

再查看broker.log日志,的确是出现了 PULL_OFFSET_MOVED:correction 日志。

maxMessageSize和pullMessageThreadPoolNums太大,按理说,不应该配置这么大的值,需要按实际情况将这两个值调小。

相关推荐
TracyCoder1233 天前
RocketMQ技术原理简单解析:从架构到核心流程
架构·wpf·rocketmq
zzhongcy3 天前
RocketMQ、Kafka 和 RabbitMQ 等中间件对比
kafka·rabbitmq·rocketmq
小股虫3 天前
RocketMQ消息可靠性实战:从发送到消费的全流程保障
rocketmq
u***u6853 天前
后端在消息队列中的可靠性保证
swiftui·ar·rocketmq
milanyangbo3 天前
从硬盘I/O到网络传输:Kafka与RocketMQ读写模型及零拷贝技术深度对比
java·网络·分布式·架构·kafka·rocketmq
Mr.朱鹏3 天前
RocketMQ可视化监控与管理
java·spring boot·spring·spring cloud·maven·intellij-idea·rocketmq
蜂蜜黄油呀土豆3 天前
RocketMQ 详解:从异步解耦到存储与消费全链路解析
消息队列·rocketmq·分布式账本·分布式系统·幂等设计
Mr.朱鹏4 天前
RocketMQ安装与部署指南
java·数据库·spring·oracle·maven·rocketmq·seata
今天你TLE了吗4 天前
通过RocketMQ延时消息实现优惠券等业务MySQL当中定时自动过期
java·spring boot·后端·学习·rocketmq
jiayong235 天前
RocketMQ实战
rocketmq