ZooKeeper在kafka集群中有何作用

Zookeeper 存储的 Kafka 信息

(1)启动 Zookeeper 客户端。

bin/zkCli.sh

(2)通过 ls 命令可以查看 kafka 相关信息。

复制代码
[zk: localhost:2181(CONNECTED) 2] ls /kafka

zk中有一个节点 consumers 这个里面,老版本0.9版本之前,存放的是消费者的偏移量(offset,这次消费者消费到哪个地方了,下次从这个地方继续消费),新版本的根本没放在zk中,直接放在集群中了。

可以借助一个工具:漂亮的zoo,通过图形化界面查看zk中的消息。

1. 集群协调

ZooKeeper 为 Kafka 集群中的多个 Broker 提供了领导选举机制。当集群中的主节点(Leader Broker)因故障下线时,ZooKeeper 负责协调选举新的 Leader。这保证了 Kafka 集群的高可用性。

2. 配置管理

ZooKeeper 存储了 Kafka 集群的关键元数据,如主题配置信息、分区信息等。当这些配置需要更新时,ZooKeeper 保证了所有 Broker 都可以获取到最新的配置信息。

3. 同步

ZooKeeper 在 Kafka 的分布式环境中保证数据的一致性。它管理 Kafka 集群中的所有 Broker,确保它们的状态同步。

4. 节点管理

ZooKeeper 跟踪 Kafka 集群中每个节点的状态和信息。这包括节点加入或离开集群的情况,以及节点的健康状况。

相关推荐
淡酒交魂1 小时前
「Flink」业务搭建方法总结
大数据·数据挖掘·数据分析
mask哥1 小时前
详解flink java基础(一)
java·大数据·微服务·flink·实时计算·领域驱动
TDengine (老段)1 小时前
TDengine IDMP 高级功能(4. 元素引用)
大数据·数据库·人工智能·物联网·数据分析·时序数据库·tdengine
livemetee2 小时前
Flink2.0学习笔记:Flink服务器搭建与flink作业提交
大数据·笔记·学习·flink
zhang98800003 小时前
储能领域大数据平台的设计中如何使用 Hadoop、Spark、Flink 等组件实现数据采集、清洗、存储及实时 / 离线计算,支持储能系统分析与预测
大数据·hadoop·spark
老蒋新思维3 小时前
存量竞争下的破局之道:品牌与IP的双引擎策略|创客匠人
大数据·网络·知识付费·创客匠人·知识变现
Lx3525 小时前
Hadoop日志分析实战:快速定位问题的技巧
大数据·hadoop
喂完待续8 小时前
【Tech Arch】Hive技术解析:大数据仓库的SQL桥梁
大数据·数据仓库·hive·hadoop·sql·apache
SelectDB8 小时前
5000+ 中大型企业首选的 Doris,在稳定性的提升上究竟花了多大的功夫?
大数据·数据库·apache
最初的↘那颗心9 小时前
Flink Stream API 源码走读 - window 和 sum
大数据·hadoop·flink·源码·实时计算·窗口函数