Kafka-保证消息消费的顺序性及高可用机制

  1. 顺序性应用场景

① 即时消息中的单对单聊天和群聊,保证消息发送方发送顺序与接收方的顺序一致

② 充值转账两个渠道在同一时间进行余额变更,短信通知必须要有顺序。

  1. topic分区中消息只能由消费者组中的唯一一个消费者处理,所以消息肯定是按照先后顺序处理的。如果出现跨分区则无法保证消息处理的前后顺序,当需要消息有顺序时,可以将此类消息存储到同一个分区中。

代码实现:

  1. 高可用-集群模式

Kafka的服务器端由被称为Brocker的服务进程构成,即一个Kafka集群由多个Brocker组成。这样如果集群中的一台机器宕机,其他机器上的Brocker也依然能够对外提供服务,保证高可用性。

  1. 高可用-分区备份机制

一个topic有多个分区,每个分区有多个副本,其中一个为leader,其余为follower,副本存储在不同的brocker中。锁尊的分区副本的内容都是相同的,如果leader发生故障,会自动将其中一个follower提升为leader。

ISR(in-sync replica) 需要同步复制保存的follower。如果leader失效,提升follower为leader的规则如下:

① 优先从ISR列表中选定,这个列表中的follower的数据最接近于leader

② 如果ISR列表中无正常的follower,则从普通列表中选定。

相关推荐
范桂飓16 小时前
大模型分布式训练框架 Megatron-LM
人工智能·分布式
oMcLin20 小时前
如何在Debian 11上通过配置MySQL 8.0的分布式架构,提升跨区域数据同步的效率与延迟?
分布式·mysql·debian
一条咸鱼_SaltyFish20 小时前
[Day15] 若依框架二次开发改造记录:定制化之旅 contract-security-ruoyi
java·大数据·经验分享·分布式·微服务·架构·ai编程
IT 行者1 天前
Spring Security 7 OAuth2 授权码分布式存储之Redis存储方案
redis·分布式·spring
潇凝子潇1 天前
kafka之监控告警
分布式·kafka
Light601 天前
从“报告”到“能力”——构建智能化、可审计的数据治理闭环——领码 SPARK 数据质量平台白皮书
大数据·分布式·spark
maozexijr1 天前
RabbitMQ Exchange Headers类型存在的意义?
分布式·rabbitmq
还在忙碌的吴小二1 天前
XXL-SSO 分布式单点登录框架
分布式
独自破碎E1 天前
RabbitMQ的消息确认机制是怎么工作的?
分布式·rabbitmq
潇凝子潇1 天前
Kafka 实现集群安全认证与加密机制
分布式·安全·kafka