SpringBoot 集成 kafka,并消费历史事件

SpringBoot 集成 kafka,并消费历史事件

消费历史事件

上一篇文章我们讲的是 SpringBoot 集成 kafka 消费最新的事件,如果没有看过的小伙伴可以看这篇文章:SpringBoot 集成 kafka

那如果我们想消费历史的事件应该怎么办呢?

方法一:更换消费者组 id

第一步 在 application.yml 文件中新增配置
yaml 复制代码
spring:
  application:
    # 应用名称
    name: kafka-01-base
  kafka:
    # kafka 连接地址
    bootstrap-servers: 39.105.58.131:9092
    consumer:
      # 让消费者从最早的事件开始消费
      auto-offset-reset: earliest
第二步 更换消费者组 id

我们在上一篇文章中使用的消费者组 id 为:hello-group,我们随意更换一个名字即可,我这里更换为:hello-group-02

java 复制代码
package com.wanfeng.consumer;

import org.springframework.kafka.annotation.KafkaListener;
import org.springframework.stereotype.Component;

/**
 * 作者:晚枫
 * 时间:2024/9/1 9:00
 */
@Component
public class EventConsumer {

    // 采用监听的方式接收事件
    // topics 指定需要监听的主题
    // groupId 指定消费者组 id
    @KafkaListener(topics = "hello", groupId = "hello-group-02")
    public void onEvent(String event) {
        System.out.println("接收到的事件为:" + event);
    }
}

其他地方都不需要修改,然后我们启动程序去消费事件即可。

我们为什么要更换消费者组 id 呢?

因为我们已经使用过 hello-group 这个消费者 id 消费 hello 这个主题了,并且 kafka 已经保存了 hello-group 消费者组的偏移量,那么即使我们设置了 auto.offset.reset=earliest, 这个设置也不会生效,因为 kafka 只会在找不到偏移量的时候使用这个配置。

如果我们想继续使用 hello-group 这个消费者组对 hello 这个主题进行消费,并消费 hello 主题里面的历史事件可以吗?

答案是可以的,我们可以使用 kafka 提供的脚本来修改偏移量,来达到消费历史事件的目的

方法二:手动重置偏移量

SpringBoot 集成 kafka 这篇文章的基础上,什么都不需要修改,直接执行以下命令,就可以达到使用相同消费者组对同一个主题消费历史事件的目的了。

shell 复制代码
kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group hello-group --topic hello --reset-offsets --to-earliest --execute

如果我们在执行这条命令出现以下错误的时候,我们把 Java 程序停止后再执行就可以了

shell 复制代码
Error: Assignments can only be reset if the group 'hello-group' is inactive, but the current state is Stable.
相关推荐
行百里er3 小时前
2026:一名码农的“不靠谱”年度规划
后端·程序员·架构
全靠bug跑5 小时前
Spring Cache 实战:核心注解详解与缓存过期时间配置
java·redis·springcache
聆风吟º5 小时前
【数据结构手札】空间复杂度详解:概念 | 习题
java·数据结构·算法
薛定谔的猫19825 小时前
RAG(二)基于 LangChain+FAISS + 通义千问搭建轻量级 RAG 检索增强生成系统
运维·服务器·langchain
计算机程序设计小李同学5 小时前
基于SpringBoot的个性化穿搭推荐及交流平台
java·spring boot·后端
是一个Bug5 小时前
50道核心JVM面试题
java·开发语言·面试
米高梅狮子5 小时前
4. Linux 进程调度管理
linux·运维·服务器
用户47949283569155 小时前
同事一个比喻,让我搞懂了Docker和k8s的核心概念
前端·后端
朱朱没烦恼yeye6 小时前
java基础学习
java·python·学习
她和夏天一样热6 小时前
【观后感】Java线程池实现原理及其在美团业务中的实践
java·开发语言·jvm