ZooKeeper在kafka集群中有何作用

Zookeeper 存储的 Kafka 信息

(1)启动 Zookeeper 客户端。

bin/zkCli.sh

(2)通过 ls 命令可以查看 kafka 相关信息。

复制代码
[zk: localhost:2181(CONNECTED) 2] ls /kafka

zk中有一个节点 consumers 这个里面,老版本0.9版本之前,存放的是消费者的偏移量(offset,这次消费者消费到哪个地方了,下次从这个地方继续消费),新版本的根本没放在zk中,直接放在集群中了。

可以借助一个工具:漂亮的zoo,通过图形化界面查看zk中的消息。

1. 集群协调

ZooKeeper 为 Kafka 集群中的多个 Broker 提供了领导选举机制。当集群中的主节点(Leader Broker)因故障下线时,ZooKeeper 负责协调选举新的 Leader。这保证了 Kafka 集群的高可用性。

2. 配置管理

ZooKeeper 存储了 Kafka 集群的关键元数据,如主题配置信息、分区信息等。当这些配置需要更新时,ZooKeeper 保证了所有 Broker 都可以获取到最新的配置信息。

3. 同步

ZooKeeper 在 Kafka 的分布式环境中保证数据的一致性。它管理 Kafka 集群中的所有 Broker,确保它们的状态同步。

4. 节点管理

ZooKeeper 跟踪 Kafka 集群中每个节点的状态和信息。这包括节点加入或离开集群的情况,以及节点的健康状况。

相关推荐
Guheyunyi1 小时前
消防管理系统如何重构现代空间防御体系
大数据·运维·人工智能·安全·信息可视化·重构
二进制_博客3 小时前
spark on hive 还是 hive on spark?
大数据·hive·spark
智海观潮4 小时前
Spark RDD详解 —— RDD特性、lineage、缓存、checkpoint、依赖关系
大数据·缓存·spark
一个会的不多的人7 小时前
数字化转型:概念性名词浅谈(第七十二讲)
大数据·人工智能·制造·数字化转型
数据智能老司机7 小时前
在 Databricks 上的 Unity Catalog 数据治理——Unity Catalog 的内部机制
大数据·架构
gb42152879 小时前
elasticsearch索引多长时间刷新一次(智能刷新索引根据数据条数去更新)
大数据·elasticsearch·jenkins
IT毕设梦工厂10 小时前
大数据毕业设计选题推荐-基于大数据的人体生理指标管理数据可视化分析系统-Hadoop-Spark-数据可视化-BigData
大数据·hadoop·信息可视化·spark·毕业设计·源码·bigdata
数在表哥10 小时前
从数据沼泽到智能决策:数据驱动与AI融合的中台建设方法论与技术实践指南(四)
大数据·人工智能
爱思德学术10 小时前
中国计算机学会(CCF)推荐学术会议-C(数据库/数据挖掘/内容检索):PAKDD 2026
大数据·机器学习·数据挖掘·知识发现
云淡风轻~~12 小时前
构建和部署Spark、Hadoop与Zeppelin集成环境
大数据·hadoop·spark