Kafka-保证消息消费的顺序性及高可用机制

  1. 顺序性应用场景

① 即时消息中的单对单聊天和群聊,保证消息发送方发送顺序与接收方的顺序一致

② 充值转账两个渠道在同一时间进行余额变更,短信通知必须要有顺序。

  1. topic分区中消息只能由消费者组中的唯一一个消费者处理,所以消息肯定是按照先后顺序处理的。如果出现跨分区则无法保证消息处理的前后顺序,当需要消息有顺序时,可以将此类消息存储到同一个分区中。

代码实现:

  1. 高可用-集群模式

Kafka的服务器端由被称为Brocker的服务进程构成,即一个Kafka集群由多个Brocker组成。这样如果集群中的一台机器宕机,其他机器上的Brocker也依然能够对外提供服务,保证高可用性。

  1. 高可用-分区备份机制

一个topic有多个分区,每个分区有多个副本,其中一个为leader,其余为follower,副本存储在不同的brocker中。锁尊的分区副本的内容都是相同的,如果leader发生故障,会自动将其中一个follower提升为leader。

ISR(in-sync replica) 需要同步复制保存的follower。如果leader失效,提升follower为leader的规则如下:

① 优先从ISR列表中选定,这个列表中的follower的数据最接近于leader

② 如果ISR列表中无正常的follower,则从普通列表中选定。

相关推荐
阿里云云原生2 天前
数据链路再精简:Kafka 如何做到“零 ETL”一键写入 Apache Iceberg?
kafka
阿里云云原生8 天前
告别冗长链路!Kafka × Table Bucket 实现开放表格式零 ETL 实时入湖
云原生·kafka
风吹夏回14 天前
RabbitMQ 核心术语 + Python pika 方法完整讲解
分布式·python·rabbitmq
风吹夏回14 天前
RabbitMQ 三种模式入门:HelloWorld、WorkQueue、PubSub
分布式·rabbitmq·ruby
霸道流氓气质14 天前
分布式追踪与 RequestId 传播完全指南
分布式
cheems952714 天前
[RabbitMQ高级特性] 消息确认机制:从 Ready / Unacked 到 basicAck、basicReject、basicNack 的底层拆解
分布式·rabbitmq·ruby
whaledown14 天前
Kafka 与 Java 消息队列入门:用订单场景理解核心机制
java·kafka·消息队列·springboot
枫华落尽14 天前
【Hadoop01-完全分布式运行模式】
分布式
隔壁阿布都14 天前
ShedLock 分布式定时任务锁框架介绍
spring boot·分布式
文艺倾年14 天前
【强化学习】数学推导专题,20W字总结(十五)
人工智能·分布式·大模型·强化学习·vibecoding