消费者提交已消费的偏移量

1.概述

消费者而在消费了消息之后会把消费的offset提交到 __consumer_offsets-的内置Topic中;每个消费者组都有维护一个当前消费者组的offset。那么问题来了: 消费组什么时候把offset更新到broker中的分区中呢?

Kafka消费者的配置信息

Name 描述 default
enable.auto.commit 如果为true,消费者的offset将在后台周期性的提交 true
auto.commit.interval.ms 如果enable.auto.commit设置为true,则消费者偏移量自动提交给Kafka的频率(以毫秒为单位) 5000

2.自动提交偏移量

消费者端开启了自动提交之后,每隔auto.commit.interval.ms自动提交一次;

java 复制代码
public static void main(String[] args) {
    //创建kafka消费者配置对象以及配置信息
    Properties props = new Properties();
    props.put("bootstrap.servers", "hadoop102:9092,hadoop103:9092,hadoop104:9092");
    props.put("group.id", "hy-local-consumer");
    props.put("enable.auto.commit", "true");
    props.put("auto.commit.interval.ms", "5000");
    props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
    props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
    //创建kafka消费者对象
    KafkaConsumer<String, String> kafkaConsumer = new KafkaConsumer<>(props);
    //消费消息
    kafkaConsumer.subscribe(Arrays.asList("hy1-test-topic"));
    while (true) {
        ConsumerRecords<String, String> records = kafkaConsumer.poll(Duration.ofSeconds(5));
        for (ConsumerRecord<String, String> record : records) {
            System.out.printf("------offset-- = %d, key = %s, value = %s%n", record.offset(), record.key(), record.value());
        }
    }
}

/*
output:
------offset-- = 5, key = null, value = NBA
------offset-- = 4, key = null, value = CBA
------offset-- = 5, key = null, value = CUBA
------offset-- = 6, key = null, value = NCAA
------offset-- = 6, key = null, value = ABA
------offset-- = 5, key = null, value = NBL
*/

假如Consumer在获取了消息消费成功但是在提交offset之前服务挂掉了,会出现什么情况?

答:重复消费

3.手动提交偏移量

虽然自动提交 offset 十分简介便利,但由于其是基于时间提交的,开发人员难以把握 offset 提交的时机。因此 Kafka 还提供了手动提交 offset 的 API。

手动提交 offset 的方法有两种: commitSync(同步提交)commitAsync(异步 提交)

  • 相同点: 将本次poll 的一批数据最高的偏移量提交
  • 不同点: commitSync 阻塞当前线程,一直到提交成功,并且会自动失败重试(由不可控因素导致, 也会出现提交失败);而commitAsync则没有失败重试机制,故有可能提交失败。

3.1 同步提交偏移量

java 复制代码
public static void main(String[] args) {
    //创建kafka消费者配置对象以及配置信息
    Properties props = new Properties();
    props.put("bootstrap.servers", "hadoop102:9092,hadoop103:9092,hadoop104:9092");
    props.put("group.id", "hy-local-consumer");
    props.put("enable.auto.commit", "true");
    props.put("auto.commit.interval.ms", "5000");
    props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
    props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
    //创建kafka消费者对象
    KafkaConsumer<String, String> kafkaConsumer = new KafkaConsumer<>(props);
    //订阅消息
    kafkaConsumer.subscribe(Arrays.asList("hy2-test-topic"));
    while (true) {
        ConsumerRecords<String, String> records = kafkaConsumer.poll(Duration.ofSeconds(2));
        for (ConsumerRecord<String, String> record : records) {
            System.out.printf("------offset-- = %d, key = %s, value = %s%n", record.offset(), record.key(), record.value())
        }
        //同步提交,当前线程会阻塞直到 offset 提交成功
        kafkaConsumer.commitSync();
    }
}

3.2 异步提交偏移量

虽然同步提交 offset 更可靠一些,但是由于其会阻塞当前线程,直到提交成功。因此吞 吐量会收到很大的影响。因此更多的情况下,会选用异步提交 offset 的方式。

java 复制代码
public static void main(String[] args) {
    //创建kafka消费者配置对象以及配置信息
    Properties props = new Properties();
    props.put("bootstrap.servers", "hadoop102:9092,hadoop103:9092,hadoop104:9092");
    props.put("group.id", "hy-local-consumer");
    props.put("enable.auto.commit", "true");
    props.put("auto.commit.interval.ms", "5000");
    props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
    props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
    //创建kafka消费者对象
    KafkaConsumer<String, String> kafkaConsumer = new KafkaConsumer<>(props);
    //订阅消息
    kafkaConsumer.subscribe(Arrays.asList("hy2-test-topic"));
    while (true) {
        ConsumerRecords<String, String> records = kafkaConsumer.poll(Duration.ofSeconds(2));
        for (ConsumerRecord<String, String> record : records) {
            System.out.printf("------offset-- = %d, key = %s, value = %s%n", record.offset(), record.key(), record.value());
        }
        //异步提交
        kafkaConsumer.commitAsync(new OffsetCommitCallback() {
            @Override
            public void onComplete(Map<TopicPartition, OffsetAndMetadata> offsets, Exception exception) {
                if (exception != null) {
                    System.err.println("异常.....");
                }
            }
        });
    }
}

无论是同步提交还是异步提交 offset,都有可能会造成数据的漏消费或者重复消费。先提交 offset 后消费,有可能造成数据的漏消费;而先消费后提交 offset,有可能会造成数据的重复消费

相关推荐
ZHOU_WUYI2 小时前
一个简单的分布式追踪系统
分布式
码不停蹄的玄黓6 小时前
MySQL分布式ID冲突详解:场景、原因与解决方案
数据库·分布式·mysql·id冲突
王小王-1236 小时前
基于Hadoop的公共自行车数据分布式存储和计算平台的设计与实现
大数据·hive·hadoop·分布式·hadoop公共自行车·共享单车大数据分析·hadoop共享单车
要开心吖ZSH8 小时前
《Spring 中上下文传递的那些事儿》Part 4:分布式链路追踪 —— Sleuth + Zipkin 实践
java·分布式·spring
幼稚园的山代王9 小时前
RabbitMQ 4.1.1初体验
分布式·rabbitmq·ruby
百锦再9 小时前
RabbitMQ用法的6种核心模式全面解析
分布式·rabbitmq·路由·消息·通道·交换机·代理
一路向北North9 小时前
RabbitMQ简单消息监听和确认
分布式·rabbitmq·ruby
真实的菜9 小时前
Kafka生态整合深度解析:构建现代化数据架构的核心枢纽
架构·kafka·linq
一路向北North16 小时前
使用reactor-rabbitmq库监听Rabbitmq
分布式·rabbitmq·ruby
Amy1870211182321 小时前
赋能低压分布式光伏“四可”建设,筑牢电网安全新防线
分布式