Kafka Console Client 的 Consumer Group

以往使用 kafka-console-consumer.sh 消费 Kafka 消息时并没有太在意过 Consumer Group,在命令行中也不会使用 --group 参数,本文针对 Kafka Console Client 命令行中的 Consumer Group 进行一次统一说明。

1. 如不设置 --group 参数会自动生成一个 Consumer Group ID

通常我们在使用 kafka-console-consumer.sh 的时候是不会设置 --group 参数的,从使用体验上也看不出有什么差异,原因在于 Kafka Console Client 会自动为当前这次请求自动创建一个 GroupID,一般会命名为 console-consumer-xxxx,每执行一次 kafka-console-consumer.sh 就生成一个新的 GroupID,以下是测试过程:

从上面的测试可以看出:每执行一次 kafka-console-consumer.sh 都会自动创建一个新的 Consumer Group,命令行启动的 Consumer 就在这个 Group 中,且也只有这一个 Consumer。

2. 设置 --group 参数,多个 kafka-console-consumer.sh 加入同一 Consumer Group

我们的测试用 topic 有3个 Partition, 我们打开三个 Console,分别执行一遍:

bash 复制代码
kafka-console-consumer.sh --bootstrap-server $KAFKA_BOOTSTRAP_SERVERS --topic 'osci.mysql-server-3.inventory.orders' --group 'app-1'

然后向 Kafka 中插入三条数据(avro 格式,二进制数据),得到如下输出:

可以看到:三个 kafka-console-consumer.sh 在同一个 Group 下工作,各自对接一个 Partition,所以写入的三条消息是在三个 Console 中输出出来的。这就是 Consumer Group 的标准行为。

相关推荐
晨曦_子画6 小时前
如何使用 GraalVM 减少与 Kafka 集成测试中的内存消耗
分布式·kafka·集成测试
木子dn11 小时前
Kafka Producer之ACKS应答机制
分布式·kafka·linq
I nedd more power11 小时前
rabbitmq为什么在不超过30MB时,延迟比kafka低很多,为什么超过30MB,在延迟上又不如kafka
分布式·kafka·rabbitmq
木子dn12 小时前
Kafka Producer发送消息流程之消息异步发送和同步发送
分布式·kafka·linq
木子dn12 小时前
Kafka Producer发送消息流程之Sender发送线程和在途请求缓存区
缓存·kafka·linq
踩着阴暗的自己向上爬12 小时前
Day08-kafka集群搭建,集群原理,压力测试及filebeat和logstash结合kafak实战案例
运维·elk·elasticsearch·kafka·压力测试
sl437920 小时前
spring-boot2.x整合Kafka步骤
spring boot·分布式·kafka
小筱在线21 小时前
如何在SpringCloud中使用Kafka Streams实现实时数据处理
spring cloud·kafka·linq
木子dn21 小时前
关于Kafka Topic分区和Replication分配的策略
分布式·kafka·linq
细狗很good21 小时前
zookeeper+kafka消息队列群集部署
分布式·zookeeper·kafka