rocketMQ的消息存储CommitLog

本来是放到上一篇中撑撑场面,确实写的水,但是上一篇数据不好,只能重新开一篇啦,再水就应该换名"小水"了,可不能再水

持久化

下面咱们就硬转到持久化

rocketmq将消息存储到磁盘,默认路径是/{user_home}/store,当然这么重要的配置是可以通过配置文件修改的

commitlog

  1. commitlog里面是本本分分按顺序以固定格式存储的完整的消息内容和他的元数据 ‌‌(消息的主题(Topic)、队列ID(QueueId)、消息体(Body)、消息ID、时间戳等),能写这么长句也是看出文学水平一般了
    1. 生产者将消息给到broker,broker转身就送给了commitlog,也不是说送,转身就把这脏活累活安排给了commitlog
    2. commitlog不辱使命通过顺序写入,理所当然可以借助磁盘顺序I/O提升了写入性能
    3. 结合内存映射和异步刷盘保障了数据的高可靠性和高性能‌
    4. 关于固定格式:每个消息包含头部信息和实际内容,这种结构支持后续的高效检索和消费‌。
    5. 默认情况下是由多个1G的文件组成;

主要是字节存储,这样用很少的空间存储众多的关键信息,很有智慧,当然其他的中间件也大多是这样的思维方式,像咱们常用的对象也是,大智慧无处不在!

代码层面

最主要(当然都必不可少)mappedFileQueue,队列还能存什么,大家猜一猜?

里面就是咱们的文件数组了,当然代码层面是MappedFile!

mappedFile调用init方法,通过RandomAccessFile创建了commitlog,并保存到MappedByteBuffer中,没错看到buffer就知道他是一个内存缓冲区,

这大宝贝在很多时候都起着至关重要的作用,可谓承上启下的法宝,但是buffer终究是没那么大,太大就是磁盘了,没必要磁盘叠磁盘,所以她应当是小巧灵活的,先写buffer内存缓冲区再flush写入磁盘;

说到flush这也是骨灰级老玩家了,一般(异步)刷新到磁盘那方法不是这flush就是那flush,看起来亲切也好学,不得不感慨大神们都代码优雅,实在是优雅!

这和咱们上面说的不谋而合,本来也是一个东西

话说这都存进去了,如何读出来呢?

org.apache.rocketmq.store.CommitLog#getMessage

---看着名字起的,真的是令人心旷神怡

简单来说通过offset偏移量找mapperFile 再多余翻译一下就是通过偏移量找到目标文件(细枝末节的顶配的重要)

下面看到没,再次借助我们的buffer,从此轻松高效获取信息,要不说rocketmq快呢,用心都在细节处

看看上面代码是不是很熟悉,不得不说人家源码这名字起的!一目了然,当然要是想知道得更多还需要去挖代码,去c那里多看一看 瞧一瞧

再写就有点长了,暂时可以告一段路啦

相关推荐
虎啊兄弟1 天前
RocketMQ面试题
数据库·rocketmq
予枫的编程笔记1 天前
深度解析Apache RocketMQ:从核心原理到实战应用
java·apache·rocketmq
Psycho_MrZhang1 天前
RocketMQ 设计思想总结
rocketmq
山沐与山2 天前
【MQ】MQ消息队列幂等性设计与踩坑实战
java·开发语言·数据库·rocketmq
怒放吧德德3 天前
RocketMQ从实战到源码:初识RocketMQ
java·后端·rocketmq
huisheng_qaq4 天前
【RocketMq基础篇-05】精通rocketmq核心组件(万字长文)
rocketmq·rocketmq核心组件·rocketmq基本使用·rocketmq底层原理·rocketmq消息队列·rocketmq整体架构·rocketmq核心组成
踏浪无痕5 天前
RocketMQ 为什么读得这么快?揭秘 ConsumeQueue 的异步索引设计
后端·面试·rocketmq
java1234_小锋5 天前
RocketMQ的Producer是如何发送消息的?
java·rocketmq·java-rocketmq
萧曵 丶5 天前
MQ 业务实际使用与问题处理详解
开发语言·kafka·消息队列·rabbitmq·rocketmq·mq