kafka leader选举过程浅析

文章目录

概要

kafka我们都知道它是通过副本机制,来支持负载均衡和故障转移等高可用的,那么具体副本的选举过程你了解吗?下面我们一起来学习下吧!

核心概念

  • Controller定义:是特殊的节点,是集群众负责管理和资源调度的Broker节点,当集群中所有Broker节点启动时,都会向zk创建controller目录,这个zk节点是"临时节点",第一个创建成功的broker,即 成为了"controller"节点。
  • Controller节点作用:负责监听broker,topic,partition的变更,获取他们的信息,partition的主从副本的选举。
  • ISR集合:与leader节点同步的follower节点,默认leader和follower的数据落后不能大于10s,否则就被剔除ISR集合。只有在ISR集合的Follower,才能作为选举主副本的候选人。

leader选举具体流程

  1. 当leader broker挂了,所有其他节点会监听到该节点watch事件变更,这些节点发起创建controller临时节点的请求到ZK,第一个创建成功的节点,成为controller节点,负责下面的partition的选举。
  2. controller 根据ISR集合中的Follwer数据,比如:ISR=3,2,7,按照其集合中的顺序轮询选举leader,这里编号3的follwer被选举为leader,接下来会从zk中复制元数据信息到本地,开始管理其他follower节点。
  3. 下图简单描述了选举过程

小结

复制代码
总结下kafka的选举具体过程
Controller:负责选举
ISR:作为候选人集合
选举规则:候选人集合按照轮询策略选举
今天的文章就分享到这了,后续会继续更新的,欢迎大家一起交流和探讨,有不对的地方,请留言哈。
相关推荐
JAVA面经实录91713 小时前
RocketMQ全套学习知识手册
java·kafka·rabbitmq·rocketmq
牛油果子哥q19 小时前
【Redis分布式高阶篇】Redis分布式锁底层精讲:从裸锁缺陷到Redisson源码级落地,解决超时释放、锁失效、主从漏洞、锁续约难题
数据库·redis·分布式
2601_9578885619 小时前
分布式新媒体架构:短视频矩阵系统的技术痛点、算法规则与效率优化实践
分布式·架构·媒体
闪电悠米20 小时前
黑马点评-Redisson-02_reentrant_lock
java·spring boot·redis·分布式·缓存
2601_9578848421 小时前
分布式媒体矩阵系统的任务调度架构:高并发分发队列与背压控制控制实践
分布式·矩阵·媒体
Kyrie_Li1 天前
Kafka-安装和配置(搭建环境)
分布式·kafka
逻极1 天前
MongoDB 从入门到精通:文档数据库的灵活之道
分布式·mongodb·nosql·聚合框架
大G的笔记本1 天前
分布式事务实战
分布式
AI浩1 天前
梯度累积与 Micro-Batch 设计分层式精讲:有效批次、显存边界与分布式同步
开发语言·分布式·batch
l1t1 天前
DeepSeek总结的从 DeepSeek 到 Quack:分布式 DuckDB 的梦想何时开始变得真实
数据库·分布式