SpringBoot 集成 kafka,并消费历史事件

SpringBoot 集成 kafka,并消费历史事件

消费历史事件

上一篇文章我们讲的是 SpringBoot 集成 kafka 消费最新的事件,如果没有看过的小伙伴可以看这篇文章:SpringBoot 集成 kafka

那如果我们想消费历史的事件应该怎么办呢?

方法一:更换消费者组 id

第一步 在 application.yml 文件中新增配置
yaml 复制代码
spring:
  application:
    # 应用名称
    name: kafka-01-base
  kafka:
    # kafka 连接地址
    bootstrap-servers: 39.105.58.131:9092
    consumer:
      # 让消费者从最早的事件开始消费
      auto-offset-reset: earliest
第二步 更换消费者组 id

我们在上一篇文章中使用的消费者组 id 为:hello-group,我们随意更换一个名字即可,我这里更换为:hello-group-02

java 复制代码
package com.wanfeng.consumer;

import org.springframework.kafka.annotation.KafkaListener;
import org.springframework.stereotype.Component;

/**
 * 作者:晚枫
 * 时间:2024/9/1 9:00
 */
@Component
public class EventConsumer {

    // 采用监听的方式接收事件
    // topics 指定需要监听的主题
    // groupId 指定消费者组 id
    @KafkaListener(topics = "hello", groupId = "hello-group-02")
    public void onEvent(String event) {
        System.out.println("接收到的事件为:" + event);
    }
}

其他地方都不需要修改,然后我们启动程序去消费事件即可。

我们为什么要更换消费者组 id 呢?

因为我们已经使用过 hello-group 这个消费者 id 消费 hello 这个主题了,并且 kafka 已经保存了 hello-group 消费者组的偏移量,那么即使我们设置了 auto.offset.reset=earliest, 这个设置也不会生效,因为 kafka 只会在找不到偏移量的时候使用这个配置。

如果我们想继续使用 hello-group 这个消费者组对 hello 这个主题进行消费,并消费 hello 主题里面的历史事件可以吗?

答案是可以的,我们可以使用 kafka 提供的脚本来修改偏移量,来达到消费历史事件的目的

方法二:手动重置偏移量

在 SpringBoot 集成 kafka 这篇文章的基础上,什么都不需要修改,直接执行以下命令,就可以达到使用相同消费者组对同一个主题消费历史事件的目的了。

shell 复制代码
kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group hello-group --topic hello --reset-offsets --to-earliest --execute

如果我们在执行这条命令出现以下错误的时候,我们把 Java 程序停止后再执行就可以了

shell 复制代码
Error: Assignments can only be reset if the group 'hello-group' is inactive, but the current state is Stable.
相关推荐
法欧特斯卡雷特9 分钟前
Kotlin 新特性抢先看:伴生扩展与伴生块
后端·面试·开源
桃李醉春风25 分钟前
被微信拒审那天,我才真正学会 Vibecoding:一个人 + AI,3 万行代码、1.8 万张素材的小程序全复盘
后端
CoderYanger27 分钟前
一轮复习——F.动态规划模型总结(入门篇)
java·开发语言·数据结构·算法·leetcode·职场和发展·动态规划
她的男孩27 分钟前
打印模板草稿能保存,一点发布就报主从关系:我们把校验拆成了两档
java·spring boot·后端
小鹿的周先生27 分钟前
第19章-Agent
java·spring·ai
溪语流沙29 分钟前
【Web全栈进阶】FastAPI工程化:APIRouter拆分 + 配置 + 依赖注入
java·前端·fastapi
凌云若寒41 分钟前
BarTender提示#807错误:无法在拥有其他许可证的Licensing Service上激活节点锁定的 Professional 版许可证 的解决办法
运维·服务器·前端·学习·软件需求
Bazingga42 分钟前
Embabel学习笔记:把Agent的决策权从LLM手里拿回来
后端
用户83145509803143 分钟前
基于 Firecracker 自建 Agent 沙箱集群:状态机 + 文件管理 + 进程编排,附 E2B 生产经验校准
后端
Knight_AL44 分钟前
PostgreSQL Docker 数据库备份:pg_dump 与 SQL 格式备份的区别
数据库·docker·postgresql