Kafka-保证消息消费的顺序性及高可用机制

  1. 顺序性应用场景

① 即时消息中的单对单聊天和群聊,保证消息发送方发送顺序与接收方的顺序一致

② 充值转账两个渠道在同一时间进行余额变更,短信通知必须要有顺序。

  1. topic分区中消息只能由消费者组中的唯一一个消费者处理,所以消息肯定是按照先后顺序处理的。如果出现跨分区则无法保证消息处理的前后顺序,当需要消息有顺序时,可以将此类消息存储到同一个分区中。

代码实现:

  1. 高可用-集群模式

Kafka的服务器端由被称为Brocker的服务进程构成,即一个Kafka集群由多个Brocker组成。这样如果集群中的一台机器宕机,其他机器上的Brocker也依然能够对外提供服务,保证高可用性。

  1. 高可用-分区备份机制

一个topic有多个分区,每个分区有多个副本,其中一个为leader,其余为follower,副本存储在不同的brocker中。锁尊的分区副本的内容都是相同的,如果leader发生故障,会自动将其中一个follower提升为leader。

ISR(in-sync replica) 需要同步复制保存的follower。如果leader失效,提升follower为leader的规则如下:

① 优先从ISR列表中选定,这个列表中的follower的数据最接近于leader

② 如果ISR列表中无正常的follower,则从普通列表中选定。

相关推荐
wWYy.12 小时前
分布式:数据复制
分布式
正儿八经的少年18 小时前
分布式 ID
分布式
七夜zippoe19 小时前
深入解析CANN仓库中的HCCL分布式通信库
pytorch·分布式·cann·hccl·通信库
AI人工智能+电脑小能手19 小时前
【大白话说Java面试题 第188题】【08_Kafka篇】第4题:Kafka 大量消息积压时该如何处理?
java·性能优化·kafka·故障排查·消息积压
富士康质检员张全蛋19 小时前
Kafka的操作 消费者组 消费位置查看
分布式·kafka
翔云12345619 小时前
Kafka + Flink实时时流处理场景
flink·kafka
运维行者_20 小时前
如何查看每个IP的带宽使用情况?NetFlow 技术实战指南
开发语言·网络·分布式·后端·架构·带宽
笨鸟先飞的橘猫20 小时前
游戏后端分布式学习——一致性协议Raft
分布式·学习·游戏
谢白羽20 小时前
vllm源码剖析14-vLLM 分布式推理-专家并行EP
笔记·分布式·llm·论文·vllm
翔云12345621 小时前
Kafka 使用场景
kafka