kafka分区和副本的关系?

  • 概念来一波

    • 比如一个topic的消息存放在两个分区中,分区1和分区2.
    • 每个分区都有自己的一个副本。即比如分区1有副本1/副本2/副本3,分区2也有分区2的副本1/副本2/副本3。
    • 一个节点上的一个topic的可以由多个分区存放,但是每个分区的leader副本会尽可能放到不同的节点上。
      • 一个partition分区只能被一个消费组中的一个消费者消费(消费者组id+Topic 确定一个当前消费到哪个offset)
  • 这个举个例子说明更形象

    • 例子1 如下图:topic 有4个分区,每个分区有2个副本。
      • Musk topic的分区0的leader副本在2节点上,另一个副本在1机器上;
      • Musk topic的分区1的leader副本在1节点上,另一个副本在0机器上;
      • Musk topic的分区2的leader副本在0节点上,另一个副本在2机器上;
      • Musk topic的分区3的leader副本在2节点上,另一个副本在0机器上;
  • 例子2 如下图是一个2分区3副本的Topic:分区0的leader副本在broker0节点上,分区1的leader的副本在broker2节点
相关推荐
请不要叫我菜鸡13 分钟前
mit6824-01-MapReduce详解
大数据·分布式·后端·mapreduce·函数式编程·容错性
柚乐果果39 分钟前
ECharts图表图例4
java·大数据·eclipse·echarts
深度菜鸡-达闻西1 小时前
服务器开通个人账户
运维·服务器
两仪式quq1 小时前
docker常见命令
运维·docker·容器
数据智能老司机1 小时前
实现Data Mesh——通过数据契约驱动数据产品
大数据·架构·数据分析
漫无目的行走的月亮1 小时前
使用微服务Spring Cloud集成Kafka实现异步通信(消费者)
spring cloud·微服务·kafka
Elastic 中国社区官方博客2 小时前
Elasticsearch 8.16 和 JDK 23 中的语言环境变化
java·大数据·elasticsearch·搜索引擎·全文检索
DB_UP2 小时前
Xshell7下载及服务器连接
运维·服务器
浊尘2 小时前
在Kali Linux VNC服务器上安装RDP服务
linux·运维·服务器
EterNity_TiMe_2 小时前
【Linux进程间通信】Linux匿名管道详解:构建进程间通信的隐形桥梁
linux·运维·redis·缓存·性能优化·学习方法