Kafka-保证消息消费的顺序性及高可用机制

  1. 顺序性应用场景

① 即时消息中的单对单聊天和群聊,保证消息发送方发送顺序与接收方的顺序一致

② 充值转账两个渠道在同一时间进行余额变更,短信通知必须要有顺序。

  1. topic分区中消息只能由消费者组中的唯一一个消费者处理,所以消息肯定是按照先后顺序处理的。如果出现跨分区则无法保证消息处理的前后顺序,当需要消息有顺序时,可以将此类消息存储到同一个分区中。

代码实现:

  1. 高可用-集群模式

Kafka的服务器端由被称为Brocker的服务进程构成,即一个Kafka集群由多个Brocker组成。这样如果集群中的一台机器宕机,其他机器上的Brocker也依然能够对外提供服务,保证高可用性。

  1. 高可用-分区备份机制

一个topic有多个分区,每个分区有多个副本,其中一个为leader,其余为follower,副本存储在不同的brocker中。锁尊的分区副本的内容都是相同的,如果leader发生故障,会自动将其中一个follower提升为leader。

ISR(in-sync replica) 需要同步复制保存的follower。如果leader失效,提升follower为leader的规则如下:

① 优先从ISR列表中选定,这个列表中的follower的数据最接近于leader

② 如果ISR列表中无正常的follower,则从普通列表中选定。

相关推荐
giaz14n9X3 小时前
Redis 分布式锁进阶第六十三篇
分布式
ha_lydms5 小时前
AnalyticDB分区、分布键性能优化
android·大数据·分布式·性能优化·分布式计算·分区·analyticdb
pqk6V6Vep6 小时前
Redis 分布式锁进阶第一篇讲解
数据库·redis·分布式
梦想的颜色6 小时前
Kafka内核解密:架构拓扑、数据流转与生产消费模型的深度剖析
kafka·高并发·多线程·异步·消息组件·生产者与消费者模式
giaz14n9X6 小时前
Redis 分布式锁进阶第六十一篇
数据库·redis·分布式
洛水水7 小时前
消息队列与Kafka详解
分布式·kafka
鸿乃江边鸟9 小时前
Spark中怎么做Spark canonicalize归一化
大数据·分布式·spark
SLD_Allen9 小时前
Kafka分区与消费者的关系kafka分区和消费者线程的关系
分布式·kafka
he___H9 小时前
数据密集型应用系统设计--其一
分布式
珠***格11 小时前
Ⅱ型边缘网关|易部署、易扩容、易改造
大数据·人工智能·分布式·能源·边缘计算