rocketMQ的消息存储CommitLog

本来是放到上一篇中撑撑场面,确实写的水,但是上一篇数据不好,只能重新开一篇啦,再水就应该换名"小水"了,可不能再水

持久化

下面咱们就硬转到持久化

rocketmq将消息存储到磁盘,默认路径是/{user_home}/store,当然这么重要的配置是可以通过配置文件修改的

commitlog

  1. commitlog里面是本本分分按顺序以固定格式存储的完整的消息内容和他的元数据 ‌‌(消息的主题(Topic)、队列ID(QueueId)、消息体(Body)、消息ID、时间戳等),能写这么长句也是看出文学水平一般了
    1. 生产者将消息给到broker,broker转身就送给了commitlog,也不是说送,转身就把这脏活累活安排给了commitlog
    2. commitlog不辱使命通过顺序写入,理所当然可以借助磁盘顺序I/O提升了写入性能
    3. 结合内存映射和异步刷盘保障了数据的高可靠性和高性能‌
    4. 关于固定格式:每个消息包含头部信息和实际内容,这种结构支持后续的高效检索和消费‌。
    5. 默认情况下是由多个1G的文件组成;

主要是字节存储,这样用很少的空间存储众多的关键信息,很有智慧,当然其他的中间件也大多是这样的思维方式,像咱们常用的对象也是,大智慧无处不在!

代码层面

最主要(当然都必不可少)mappedFileQueue,队列还能存什么,大家猜一猜?

里面就是咱们的文件数组了,当然代码层面是MappedFile!

mappedFile调用init方法,通过RandomAccessFile创建了commitlog,并保存到MappedByteBuffer中,没错看到buffer就知道他是一个内存缓冲区,

这大宝贝在很多时候都起着至关重要的作用,可谓承上启下的法宝,但是buffer终究是没那么大,太大就是磁盘了,没必要磁盘叠磁盘,所以她应当是小巧灵活的,先写buffer内存缓冲区再flush写入磁盘;

说到flush这也是骨灰级老玩家了,一般(异步)刷新到磁盘那方法不是这flush就是那flush,看起来亲切也好学,不得不感慨大神们都代码优雅,实在是优雅!

这和咱们上面说的不谋而合,本来也是一个东西

话说这都存进去了,如何读出来呢?

org.apache.rocketmq.store.CommitLog#getMessage

---看着名字起的,真的是令人心旷神怡

简单来说通过offset偏移量找mapperFile 再多余翻译一下就是通过偏移量找到目标文件(细枝末节的顶配的重要)

下面看到没,再次借助我们的buffer,从此轻松高效获取信息,要不说rocketmq快呢,用心都在细节处

看看上面代码是不是很熟悉,不得不说人家源码这名字起的!一目了然,当然要是想知道得更多还需要去挖代码,去c那里多看一看 瞧一瞧

再写就有点长了,暂时可以告一段路啦

相关推荐
a程序小傲12 小时前
得物Java面试被问:RocketMQ的消息轨迹追踪实现
java·linux·spring·面试·职场和发展·rocketmq·java-rocketmq
jiayong232 天前
MQ基础概念面试题
java·kafka·rabbitmq·rocketmq
短剑重铸之日5 天前
《RocketMQ研读》面试篇
java·后端·面试·职场和发展·rocketmq
时艰.5 天前
RocketMQ 面试核心知识点总结
面试·rocketmq
观测云5 天前
阿里云 RocketMQ 4.0 可观测最佳实践
阿里云·云计算·rocketmq
xiaolyuh1235 天前
Kafka、RocketMQ、RabbitMQ 事务消息核心差异对比
kafka·rabbitmq·rocketmq
星辰_mya5 天前
超时未支付订单之分库分表+定时任务+RMQ延时消息
java·架构·rocketmq
LiRuiJie6 天前
深入剖析RocketMQ
java·rocketmq
廋到被风吹走6 天前
【消息队列】选型深度对比:Kafka vs RocketMQ vs RabbitMQ
kafka·rabbitmq·rocketmq
J_liaty7 天前
RocketMQ 面试题大全(2026最新版)-95 道面试题
rocketmq