Kafka高可用机制总结

1. 集群模式

1.1组成结构

Kafka集群由多个broker实例构成,每个broker是一个Kafka实例。

1.2高可用保障

某一台broker宕机时,其他broker仍可对外提供服务,保证了集群的高可用性。但仅回答此点过于简单,需结合分区复制机制回答以更好应对面试官。

2. 分区复制机制初步

2.1分区与副本

  • 一个topic分为多个分区,每个分区有多个副本,且分布在不同broker。如一个topic有三个分区p0、p1、p2,每个分区有三个副本,存储在不同broker。
  • 副本间为主从关系,同一分区的所有副本内容相同。

2.2数据同步方式

  • 生产者按策略将消息存储到不同分区,Kafka内部为分区提供副本机制以保证高可用性。
  • 分区副本分为ISR副本(同步请求方式,数据更完整)和普通副本(异步请求方式,效率高但不能保证数据完整性)。
  • ISR 的全称是 "in sync replica",即 "需要同步复制保存的副本"。在 Kafka 中,ISR 副本在同步数据时采用同步请求方式,能更好地保证数据完整性。

2.3选主原则

Kafka分区副本的选主原则是

  • 先从ISR列表中选择leader副本
  • 当ISR列表中的副本均宕机时,才从普通副本中选择一个作为leader。
  1. 优先从ISR列表选主:ISR副本采用同步请求方式同步数据,数据完整性更好,所以在正常情况下,会优先从ISR列表中挑选leader副本。
  2. ISR列表副本均宕机时的处理 :如果ISR列表中的所有副本都不可用,此时为了保证系统的基本运行,会从普通副本中选择一个作为leader。普通副本采用异步请求方式同步数据,虽然效率较高,但数据完整性不能完全保证。

这种选主原则的设计旨在平衡数据完整性和系统可用性之间的关系,

确保在不同情况下Kafka系统都能尽量稳定运行。

3. ISR配置

3.1可配置性

在broker配置文件中可设定topic副本数量和ISR最少个数,需根据实际情况设置。

3.2设置考量

不能将所有副本设为ISR,因为ISR同步保存数据性能不高,普通副本异步保存数据效率更高。一般至少设置一个ISR列表,其他设为普通副本,以平衡高可用性和数据存储时效性。

4. 面试回答建议

4.1回答框架

从集群和复制机制两个层面回答。集群层面提及由多个broker组成,宕机不影响对外服务;复制机制层面详细阐述分区、副本、副本存储、主从关系、数据同步方式、选主原则等。

4.2应对追问

若面试官追问ISR,需解释ISR是需要同步复制保存的副本,分区副本分为ISR副本(同步请求)和普通副本(异步请求),以及选主原则与ISR的关系等。

相关推荐
祈禾6 小时前
Redis三大缓存问题与分布式锁
运维·数据库·redis·笔记·分布式·缓存
叠层归一研究院7 小时前
AGI 系统(五):多主体 AGI 网络 — 分布式符号边界上的时序差同构传播
分布式·php·agi
李白客12 小时前
分布式集群与数据库产业:从单机到集群的架构跃迁与市场重构
数据库·分布式·架构
传感器与混合集成电路12 小时前
储气库漏失检测技术解析:分布式光纤如何锁定环空窜漏的精确位置
分布式·数据分析·信号处理
cfm_291414 小时前
了解Sentinel
分布式·架构·sentinel
上海云盾-小余15 小时前
全域网络安全防护思路:借助分布式节点抵御异常访问实战
分布式·安全·web安全
江畔柳前堤17 小时前
LLM 量化与剪枝完全指南:从比特级数学到生产级内核
人工智能·分布式·深度学习·算法·机器学习·目标跟踪·语言模型
中议视控18 小时前
展厅可视化网络中央控制系统:支持双向反馈,可视化播控,回显,状态显示,反向控制电脑,声光电网络视讯设备统一管理
网络·分布式·信息可视化
Java成神之路-1 天前
集群架构 vs 分布式微服务架构:核心区别通俗拆解
分布式·微服务·架构
运维行者_2 天前
企业带宽监控工具实战:网络流量分析与异常排查的5个关键能力
运维·服务器·开发语言·网络·分布式·后端·php