Kafka 入门到起飞 - Kafka是怎么保证可靠性的呢

在这里插入图片描述

我们已经了解到,复习一下

  • 创建topic时,可以指定副本因子 repilication-factor = 3

    • 表示分区的副本数,包括Leader分区副本和follower分区副本
    • 不要超过broker的数量,尽量保证一个分区的副本均匀分散不同的broker上
    • 第一个副本通过轮询的方式分配broker,从broker列表中随机位置开始轮询(生成一个随机数,选定第一个broker,然后开始逐个轮询broker放副本)
    • 实现高可用
  • Leader 副本只有一个,负责读写,其他节点都是Follower副本,

  • Producer 只把消息发送到Leader分区,Follower副本负责从Leader同步数据

  • ISR 同步副本列表 (包含Leader)

    • 怎么样算同步呢
    • replica.lag.max.messages 默认4000条,Follower消息已经滞后Leader4000条,即踢出ISR,新版本已经取消该规则
    • replica.lag.max.ms 默认10000ms, 10s内Follower 还没有向Leader发送fetch请求,即踢出ISR
      • 新版本只通过该规则识别有效副本
      • 当Follower副本将Leader副本LEO之前的所有消息都同步时,认为该副本已经追赶上Leader副本
      • 更新该副本的lastCaughtUpTimeMs 最后拉取数据的时间戳
      • ReplicaManager 副本管理器 会启动一个定时任务
      • 定时任务定时监测 当前时间lastCaughtUpTimeMs 的差值 是否大于replica.lag.max.ms
      • 大于即说明当前副本失效,踢出ISR
    • 每条消息都带时间戳,生产者不带的话broker也会给消息生成时间戳,当查找消息时就是根据偏移了+时间戳
  • 为了保证可靠性,可以设置确认机制ack= all

    • Producer将消息发送给Leader
    • Leader会等到ISR中所有Follower同步数据发送ack
    • Leader 再commit,Leader再向Producer发送ack
    • 保证生产者发送的消息实际写入所有副本

什么情况会导致副本失效呢?

  • Follower副本进程卡住,一段时间内没有向Leader副本发起请求,比如Follower副本所在的broker内存满了,频繁发起Full GC,我们知道Full GC时会STW(stop the world ),啥也干不了了
  • Follower 副本进程同步过慢,网络或者IO开销过大或机器性能问题,导致Follower在一段时间内无法赶上Leader
  • 改变副本因子,比如增加一个副本,新增副本在同步Leader数据时,也会一直处于失效状态
  • Follower节点由于宕机下线了,后又上线,在追赶上Leader副本之前也处于失效状态
相关推荐
java1234_小锋19 小时前
【免费】基于Spark实时电商用户行为分析与预测(Java版本+可视化大屏+Kafka+SpringBoot+Vue3) 锋哥原创出品,必属精品
java·spark·kafka·实时电商用户行为分析与预测系统
AI人工智能+电脑小能手2 天前
【大白话说Java面试题 第194题】【08_Kafka篇】第10题:简述 Kafka 的 Rebalance 机制?
java·kafka·消费者组·rebalance·分布式消息队列
AI人工智能+电脑小能手3 天前
【大白话说Java面试题 第192题】【08_Kafka篇】第8题:死信队列是什么?延时队列是什么?
java·kafka·消息队列·死信队列·延时队列
AI人工智能+电脑小能手3 天前
【大白话说Java面试题 第190题】【08_Kafka篇】第6题:消息队列有什么作用?
java·kafka·消息队列·系统设计·分布式架构
风中凌乱4 天前
kafka新版本集群的安装与部署
分布式·kafka
abcy0712134 天前
kafka消息丢失与消息重复消费
kafka
富士康质检员张全蛋4 天前
Kafka的操作-消费的详情
分布式·kafka
AI人工智能+电脑小能手5 天前
【大白话说Java面试题 第188题】【08_Kafka篇】第4题:Kafka 大量消息积压时该如何处理?
java·性能优化·kafka·故障排查·消息积压
富士康质检员张全蛋5 天前
Kafka的操作 消费者组 消费位置查看
分布式·kafka
翔云1234565 天前
Kafka + Flink实时时流处理场景
flink·kafka