kafka操作的一些坑

1.如果Offset Explorer能够检测到kafka中的数据,但是自己的kafka无法读取到

这个问题主要是由于kafka中的信息已经被消费掉了造成的

java 复制代码
consumer.commitAsync();

这里如果已经消费掉了kafka的信息,那么已经被消费掉的kafka数据就不会被再读取掉,除非修改offset偏移量

2.如果一直报错Attempt to heart beat failed since the group is rebalancing,此时需要修改心跳时间,一般改为200的时候就可以解决问题

java 复制代码
props.put(ConsumerConfig.HEARTBEAT_INTERVAL_MS_CONFIG,200);

成功解决此问题

相关推荐
188105069633 小时前
摸鱼事务所——团队作业——大模型评测作业
大数据·hadoop·分布式
大连赵哥3 小时前
分布式文件存储系统:Hadoop HDFS
hadoop·分布式·hdfs
CAE虚拟与现实4 小时前
重置系统后,Postgresql不用重装
数据库·redis·postgresql·kafka
不爱编程的小陈5 小时前
从存储引擎到文件系统:用FUSE将分布式KV挂载为本地目录
分布式
song5016 小时前
对话:模型推理慢,怎么调
人工智能·分布式·深度学习·transformer·交互
LB21126 小时前
消灭并发重复调用:基于 Agent 调用 LLM 的分布式 Single-Flight 实战
java·开发语言·redis·分布式·agent
心中有国也有家7 小时前
ascend-boost-comm:一次写完,到处复用——算子公共平台的 M×N 哲学
人工智能·经验分享·笔记·分布式·算法
努力发光的程序员8 小时前
互联网大厂Java面试故事:Spring Boot与微服务全栈技术实战问答
java·spring boot·spring cloud·微服务·kafka·hibernate·面试技巧
jameslogo8 小时前
RocketMQ与Kafka零拷贝机制
分布式·kafka·rocketmq
500848 小时前
GE 怎么做算子融合
分布式·架构·开源·wpf