kafka主题,分区,副本,节点几个概念理解

kafka相关概念

一、相关概念

  • 主题:类似于数据库中的表,用于存放生产者的数据
  • 分区:类似于数据库的中分表,将一个主题分成多个分区(一个大表分成多个分表)
  • 节点:kafka数量,或者理解为kafka集群服务器节点数量
  • 副本:相当于对分区的一个备份,这个值小于等于节点数量
  • 消费者组:消费同一类主题的多个消费者

kafka集群中:

如果所有主题配置的是1个副本。当一个节点挂了之后,其他节点无法正常消费。

如果只有doorinout主题副本是二个,当一个节点挂了后,其他节点无法正常消费。

如果__consumer_offsets主题副本是2个,doorinout主题副本是二个,当一个节点挂了后,其他节点除doorinout主题外,其他主题无法消费。

Broker123 为三个不同的节点

topic为主题1,分成了3个分区,3个副本。

即

bash 复制代码
./bin/kafka-topics.sh --describe --zookeeper 172.16.10.201:2181 --topic myTopic

Topic:myTopic PartitionCount:3 ReplicationFactor:3 Configs:

Topic: myTopic Partition: 0 Leader: 2 Replicas: 2,3,1 Isr: 2,3,1

Topic: myTopic Partition: 1 Leader: 3 Replicas: 3,1,2 Isr: 3,1,2

Topic: myTopic Partition: 2 Leader: 1 Replicas: 1,2,3 Isr: 1,2,3

myTopic中,PartitionCount:3 (分区为3)ReplicationFactor:3 (副本为3)

leader为分区的leader所在的节点。分区0分散在三个副本上,三个副本分散在三个节点上。其他主题分区的副本也都散落在不同的 Broker 上,从而实现数据冗余。

  • AR:Kafka 分区中的所有副本统称为 AR(Assigned Repllicas)
  • ISR:表示和 Leader 保持同步的 Follower 集合。 如果 Follower 长时间未向 Leader 发送通信请求或同步数据,则该 Follower 将被踢出 ISR。 该时间阈值由 replica.lag.time.max.ms参数设定,默认 30s。 Leader 发生故障之后,就会从 ISR 中选举新的 Leader。
  • OSR:表示 Follower 与 Leader 副本同步时,延迟过多的副本

AR = ISR + OSR

相关推荐
goehou5 小时前
Kafka 的默认配置适合演示,不适合生产
kafka·消息队列·幂等·ai agent
国科安芯7 小时前
CAN FD一升到5Mbps就误码:位定时、终端与共模的现场排查顺序——ASM1042S2S在星载分布式总线中的FAE实践
分布式·安全·架构·canfd·dcdc·抗辐射·载荷
ClouGence10 小时前
开源数据库管理工具 CloudDM 发布新版本,支持 GreptimeDB 数据源
数据库·kafka
用户3610588626121 天前
KafkaProducer 源码深度剖析:筛选可以发送消息的 Broker
kafka
西木Qi1 天前
Kafka消息中间件单机版安装配置
分布式·kafka
OriginCoding1 天前
一个 JDK 跑起六个分布式挑战:Kotlin 版 Gossip Glomers(一)
分布式·kotlin
stark张宇2 天前
分布式事务方案设计与选型思考:2PC、TCC
分布式·架构
飞奔的瓜牛2 天前
Kafka 生产实践指南:使用要点、性能优化与运维维护
中间件·性能优化·kafka
时间的拾荒人2 天前
Redis 典型应用:缓存与分布式锁原理
redis·分布式·缓存·面试·架构
筑梦之人3 天前
Elasticsearch 9.x 从入门到精通(5/7):集群、分布式与运维
运维·分布式·elasticsearch