Kafka-保证消息消费的顺序性及高可用机制

  1. 顺序性应用场景

① 即时消息中的单对单聊天和群聊,保证消息发送方发送顺序与接收方的顺序一致

② 充值转账两个渠道在同一时间进行余额变更,短信通知必须要有顺序。

  1. topic分区中消息只能由消费者组中的唯一一个消费者处理,所以消息肯定是按照先后顺序处理的。如果出现跨分区则无法保证消息处理的前后顺序,当需要消息有顺序时,可以将此类消息存储到同一个分区中。

代码实现:

  1. 高可用-集群模式

Kafka的服务器端由被称为Brocker的服务进程构成,即一个Kafka集群由多个Brocker组成。这样如果集群中的一台机器宕机,其他机器上的Brocker也依然能够对外提供服务,保证高可用性。

  1. 高可用-分区备份机制

一个topic有多个分区,每个分区有多个副本,其中一个为leader,其余为follower,副本存储在不同的brocker中。锁尊的分区副本的内容都是相同的,如果leader发生故障,会自动将其中一个follower提升为leader。

ISR(in-sync replica) 需要同步复制保存的follower。如果leader失效,提升follower为leader的规则如下:

① 优先从ISR列表中选定,这个列表中的follower的数据最接近于leader

② 如果ISR列表中无正常的follower,则从普通列表中选定。

相关推荐
RobinXYuan12 小时前
【Kafka 源码手记】05 Broker 网络层与请求处理(中):Processor 事件循环与线上的字节
kafka·源码阅读
NiceZack12 小时前
Hadoop 部署全流程教程:从新装 CentOS 到伪分布式与完全分布式
hadoop·分布式·centos
傻啦嘿哟13 小时前
分布式爬虫架构:Redis+Scrapy打造企业级爬虫系统
分布式·爬虫·架构
坐吃山猪15 小时前
Kafka13-自定义分区器
kafka
starzy199015 小时前
Kafka请求进门口:Processor是怎么把请求读上来的
分布式·kafka
骑着蜗牛撵大象3271 天前
558 万美元训出 671B 模型:DeepSeek-V3 算法与系统的协同拆解
分布式·算法·moe·deepseek-v3·mla·fp8训练
德迅云安全-上官1 天前
德迅游戏盾:面向 TCP 业务的分布式云安全防护方案
分布式·tcp/ip·游戏
麻瓜code2 天前
分布式锁演进:从一个用户下两单,到 Redisson,我改了四版
分布式·wpf
starzy19902 天前
Kafka网络层第一道门:Acceptor线程是怎么启动的
大数据·kafka
skywalk81632 天前
hive —— 多机 AI Agent 协同的任务总线:分布式,多节点同时运行,保障不会宕机
人工智能·hive·分布式