kafka常用命令

目录

Kafka通用命令

进入Kafka

1.进入kafka容器

2.进入kafka目录

查看Topic信息

1.查看所有Topic的列表

2.查看单个Topic的信息

查看ConsumerGroup信息

1.查看所有ConsumerGroup的列表

2.查看单个ConsumerGroup的信息

读取Topic中的数据

向Topic写入数据


Kafka通用命令

进入Kafka

1.进入kafka容器

docker exec -it kafka_kafka_1 /bin/bash

2.进入kafka目录

cd /opt/kafka/bin

查看Topic信息

1.查看所有Topic的列表

./kafka-topics.sh --bootstrap-server {kafka节点1的IP}:9092[,{kafka节点2的IP}:9092] --list

2.查看单个Topic的信息

./kafka-topics.sh --bootstrap-server {kafka节点1的IP}:9092[,{kafka节点2的IP}:9092] --topic {Topic名称} --describe

Partition代表了这个Topic的分区,每个分区会有一个Leader节点。

Replicas代表了这个Topic的备份数,Isr为这个分区的备份节点列表

查看ConsumerGroup信息

1.查看所有ConsumerGroup的列表

./kafka-consumer-groups.sh --bootstrap-server {kafka节点1的IP}:9092[,{kafka节点2的IP}:9092] --list

2.查看单个ConsumerGroup的信息

./kafka-consumer-groups.sh --bootstrap-server {kafka节点1的IP}:9092[,{kafka节点2的IP}:9092] --group {group名称} --describe

标题 描述 备注
TOPIC Topic名称
PARTITION 分区号
CURRENT-OFFSET 当前处理位置
LOG-END-OFFSET 总队列长度
LAG 延迟 不为0,说明当前分区有需要处理的数据,LAG越大达标需要处理的数据越多
CONSUMER-ID Consumer的Id 为空表示该分区暂时没有Consumer获取数据,需要查看对应的Consumer端的日志
HOST Consumer的IP
CLIENT-ID Client的Id

读取Topic中的数据

./kafka-console-consumer.sh --bootstrap-server {kafka节点1的IP}:9092[,{kafka节点2的IP}:9092] --topic {Topic名称} [--from-beginning] [--group ConsumerGroup的id]

--from-begining为可选参数,添加该参数可以获取已处理的数据,不添加则会获取执行命令后新写入的数据。

--group为可选参数,添加后会占用ConsumerGroup进行数据获取,常用于快速清除Topic中积压的消息。

向Topic写入数据

./kafka-console-producer.sh --broker-list {kafka节点1的IP}:9092[,{kafka节点2的IP}:9092] --topic {Topic名称}

通过回车发送消息至Topic中

相关推荐
csdn_aspnet16 分钟前
在 Docker 上安装和配置 Kafka、选择用于部署 Kafka 的操作系统
docker·kafka
Bug退退退1238 小时前
RabbitMQ 高级特性之事务
java·分布式·spring·rabbitmq
CodeWithMe9 小时前
【Note】《Kafka: The Definitive Guide》第四章:Kafka 消费者全面解析:如何从 Kafka 高效读取消息
分布式·kafka
Gauss松鼠会12 小时前
GaussDB应用场景全景解析:从金融核心到物联网的分布式数据库实践
数据库·分布式·物联网·金融·database·gaussdb
csdn_aspnet13 小时前
在 MacOS 上安装和配置 Kafka
macos·kafka
@Jackasher15 小时前
Redisson是如何实现分布式锁的?
分布式
❀always❀21 小时前
深入浅出分布式限流(更新中)
分布式·wpf
Bug退退退1231 天前
RabbitMQ 幂等性
分布式·rabbitmq
{⌐■_■}1 天前
【Kafka】登录日志处理的三次阶梯式优化实践:从同步写入到Kafka多分区批处理
数据库·分布式·mysql·kafka·go