kafka常用命令(持续更新)

查看broker

使用 zookeeper-shell.sh 命令(如果你的 Kafka 集群依赖 Zookeeper):

bash 复制代码
bin/zookeeper-shell.sh <zookeeper_host>:<port> ls /brokers/ids

这将列出所有 broker 的 ID,如输出 [0, 1, 2] 表示有 3 个 broker。

如果你的 Kafka 集群不依赖 Zookeeper,可以使用 kafka-broker-api-versions.sh 或 kafka-topics.sh:

bash 复制代码
bin/kafka-broker-api-versions.sh --bootstrap-server <broker_host>:<port>

或者

bash 复制代码
bin/kafka-topics.sh --bootstrap-server <broker_host>:<port> --describe

describe 输出中每个 broker 的信息都会显示出来。

查看指定 topic 信息

使用 kafka-topics.sh 命令:

bash 复制代码
bin/kafka-topics.sh --bootstrap-server <broker_host>:<port> --describe --topic <your_topic>

输出示例:

yaml 复制代码
Topic: your_topic     PartitionCount: 1       ReplicationFactor: 1    Configs:
    Topic: your_topic     Partition: 0    Leader: 1    Replicas: 1    Isr: 1
  • Leader 表示该 partition 当前所在的 broker ID。例如,上述输出中 Leader: 1 表示 partition 0 被分配在 broker ID 为 1 的节点上。
  • Replicas 列表表示所有副本所在的 broker,Isr 列表表示当前同步的 broker。

查看所有消费组

列出 Kafka 集群中所有的消费组:

bash 复制代码
bin/kafka-consumer-groups.sh --bootstrap-server <broker_host>:<port> --list

这会返回一个消费组的列表。

查看指定消费组的详细信息

查看一个特定消费组的详细信息(包括每个 partition 的消费进度):

bash 复制代码
bin/kafka-consumer-groups.sh --bootstrap-server <broker_host>:<port> --describe --group <consumer_group_id>

输出示例:

sql 复制代码
GROUP           TOPIC           PARTITION    CURRENT-OFFSET    LOG-END-OFFSET    LAG             CONSUMER-ID           HOST            CLIENT-ID
my-consumer     my-topic        0            123               125               2               consumer-1-12345      /192.168.1.10   my-consumer-id
复制代码
- **CURRENT-OFFSET**:消费组消费到的当前偏移量。
- **LOG-END-OFFSET**:topic partition 的最新偏移量。
- **LAG**:消费者落后于最新消息的偏移量(即积压消息数)。
- **CONSUMER-ID**、**HOST** 和 **CLIENT-ID**:消费者的标识信息。

查看所有消费组的消费状态

如果想一次查看所有消费组的消费状态,可以运行以下命令(输出可能会较多):

bash 复制代码
bin/kafka-consumer-groups.sh --bootstrap-server <broker_host>:<port> --all-groups --describe
相关推荐
每天一道题3 小时前
Kafka 是如何工作的?从 Broker、Partition、Offset 到 Consumer Group
分布式·kafka
用户1494484813205 小时前
为什么大厂很少直接用 2PC/TCC?聊聊分布式事务在真实业务里的落地套路
分布式·后端
code_slave(码畜)6 小时前
微服务架构落地:分库分表实战(下) —— 分布式主键、跨分片查询与分页聚合防坑
数据库·spring boot·分布式·spring cloud·微服务·架构·分库分表
德迅云安全-上官7 小时前
新一代智能分布式云接入:应用加速守护 TCP 业务安全与体验
分布式·tcp/ip·安全
凯凯姜7 小时前
分布式定时任务重复执行与故障恢复
分布式
ClouGence8 小时前
还在用命令行管理 Kafka?开源 CloudDM 让操作更简单
数据库·kafka·开源
Sayai9 小时前
Kafka 磁盘空间治理实战:retention 保留策略、log.dirs 在线扩容、分区跨盘迁移与不停机整体换盘
大数据·运维·分布式·kafka·消息队列
爱吃牛肉的大老虎9 小时前
Redis之分布式 Session问题
数据库·redis·分布式
阿标在干嘛10 小时前
分布式锁的“场景适配“:我们为什么在部分链路中选择了数据库乐观锁?
数据库·分布式
孤狼GPT10 小时前
ChatGPT、Codex排查实录:Kafka消费者日志明明显示处理成功,为什么同一条消息还是被重复消费?
kafka·springboot·codex·chatgptplus·chatgptpro