kafka常用命令

目录

Kafka通用命令

进入Kafka

1.进入kafka容器

2.进入kafka目录

查看Topic信息

1.查看所有Topic的列表

2.查看单个Topic的信息

查看ConsumerGroup信息

1.查看所有ConsumerGroup的列表

2.查看单个ConsumerGroup的信息

读取Topic中的数据

向Topic写入数据


Kafka通用命令

进入Kafka

1.进入kafka容器

docker exec -it kafka_kafka_1 /bin/bash

2.进入kafka目录

cd /opt/kafka/bin

查看Topic信息

1.查看所有Topic的列表

./kafka-topics.sh --bootstrap-server {kafka节点1的IP}:9092[,{kafka节点2的IP}:9092] --list

2.查看单个Topic的信息

./kafka-topics.sh --bootstrap-server {kafka节点1的IP}:9092[,{kafka节点2的IP}:9092] --topic {Topic名称} --describe

Partition代表了这个Topic的分区,每个分区会有一个Leader节点。

Replicas代表了这个Topic的备份数,Isr为这个分区的备份节点列表

查看ConsumerGroup信息

1.查看所有ConsumerGroup的列表

./kafka-consumer-groups.sh --bootstrap-server {kafka节点1的IP}:9092[,{kafka节点2的IP}:9092] --list

2.查看单个ConsumerGroup的信息

./kafka-consumer-groups.sh --bootstrap-server {kafka节点1的IP}:9092[,{kafka节点2的IP}:9092] --group {group名称} --describe

标题 描述 备注
TOPIC Topic名称
PARTITION 分区号
CURRENT-OFFSET 当前处理位置
LOG-END-OFFSET 总队列长度
LAG 延迟 不为0,说明当前分区有需要处理的数据,LAG越大达标需要处理的数据越多
CONSUMER-ID Consumer的Id 为空表示该分区暂时没有Consumer获取数据,需要查看对应的Consumer端的日志
HOST Consumer的IP
CLIENT-ID Client的Id

读取Topic中的数据

./kafka-console-consumer.sh --bootstrap-server {kafka节点1的IP}:9092[,{kafka节点2的IP}:9092] --topic {Topic名称} [--from-beginning] [--group ConsumerGroup的id]

--from-begining为可选参数,添加该参数可以获取已处理的数据,不添加则会获取执行命令后新写入的数据。

--group为可选参数,添加后会占用ConsumerGroup进行数据获取,常用于快速清除Topic中积压的消息。

向Topic写入数据

./kafka-console-producer.sh --broker-list {kafka节点1的IP}:9092[,{kafka节点2的IP}:9092] --topic {Topic名称}

通过回车发送消息至Topic中

相关推荐
百锦再10 小时前
破茧成蝶:全方位解析Java学习难点与征服之路
java·python·学习·struts·kafka·maven·intellij-idea
sniper_fandc11 小时前
Elasticsearch从入门到进阶——分布式特性
大数据·分布式·elasticsearch
hzp66613 小时前
spark动态分区参数spark.sql.sources.partitionOverwriteMode
大数据·hive·分布式·spark·etl·partitionover
幼儿园老大*20 小时前
什么是分布式数据库?有什么优势?
数据库·分布式
武子康20 小时前
大数据-135 ClickHouse 集群连通性自检 + 数据类型避坑实战|10 分钟跑通 ON CLUSTER
大数据·分布式·后端
有谁看见我的剑了?1 天前
Rocky 9 安装 Elasticsearch分布式集群
分布式·elasticsearch·jenkins
你总是一副不开心的样子(´ . .̫ .1 天前
消息队列Kafka
分布式·kafka
wending-Y1 天前
如何正确理解flink 消费kafka时的watermark
flink·kafka·linq
沐浴露z1 天前
Kafka入门:基础架构讲解,安装与使用
java·分布式·kafka
鼠鼠我捏,要死了捏1 天前
Kafka消息可靠性方案对比与实践
kafka·rabbitmq·消息可靠性