kafka操作的一些坑

1.如果Offset Explorer能够检测到kafka中的数据,但是自己的kafka无法读取到

这个问题主要是由于kafka中的信息已经被消费掉了造成的

java 复制代码
consumer.commitAsync();

这里如果已经消费掉了kafka的信息,那么已经被消费掉的kafka数据就不会被再读取掉,除非修改offset偏移量

2.如果一直报错Attempt to heart beat failed since the group is rebalancing,此时需要修改心跳时间,一般改为200的时候就可以解决问题

java 复制代码
props.put(ConsumerConfig.HEARTBEAT_INTERVAL_MS_CONFIG,200);

成功解决此问题

相关推荐
Juicedata2 小时前
分布式架构下配额设计:JuiceFS 的实现与典型案例
分布式·架构
曾阿伦14 小时前
Spark flatMapToPair算子卡顿优化
大数据·分布式·spark
卷毛的技术笔记14 小时前
从“拆东墙补西墙”到“最终一致”:分布式事务在Spring Boot/Cloud中的破局之道
java·spring boot·分布式·后端·spring cloud·面试·rocketmq
大G的笔记本17 小时前
redis分布式锁过期问题和自动续期和主从延迟问题
redis·分布式
隔壁寝室老吴18 小时前
使用Flink2.0消费低版本的Kafka
分布式·kafka
Chasing__Dreams20 小时前
Mysql--基础知识点--105--分布式事务
数据库·分布式·mysql
indexsunny20 小时前
互联网大厂Java面试实战:Spring Boot微服务与Kafka消息队列深度解析
java·spring boot·微服务·面试·kafka·消息队列·电商
java干货20 小时前
Redis 分布式限流的四大算法与终极形态
数据库·redis·分布式
富士康质检员张全蛋20 小时前
Kafka架构 主题中的分区
分布式·kafka