kafka操作的一些坑

1.如果Offset Explorer能够检测到kafka中的数据,但是自己的kafka无法读取到

这个问题主要是由于kafka中的信息已经被消费掉了造成的

java 复制代码
consumer.commitAsync();

这里如果已经消费掉了kafka的信息,那么已经被消费掉的kafka数据就不会被再读取掉,除非修改offset偏移量

2.如果一直报错Attempt to heart beat failed since the group is rebalancing,此时需要修改心跳时间,一般改为200的时候就可以解决问题

java 复制代码
props.put(ConsumerConfig.HEARTBEAT_INTERVAL_MS_CONFIG,200);

成功解决此问题

相关推荐
Yuer202537 分钟前
用 Rust 做分布式查询引擎之前,我先写了一个最小执行 POC
开发语言·分布式·rust
张彦峰ZYF3 小时前
高并发场景下的缓存雪崩探析与应对策略
redis·分布式·缓存
张彦峰ZYF5 小时前
高并发场景下的缓存穿透问题探析与应对策略
redis·分布式
TT哇6 小时前
【RabbitMQ】@Autowired private RabbitTemplate rabbitTemplate;
java·分布式·rabbitmq
Rainly20006 小时前
工作日志之postgresql实现分布式锁
数据库·分布式·postgresql
ha_lydms7 小时前
3、Spark 函数_d/e/f/j/h/i/j/k/l
大数据·分布式·spark·函数·数据处理·dataworks·maxcompute
张彦峰ZYF7 小时前
优化分布式系统性能:热key识别与实战解决方案
redis·分布式·性能优化
张彦峰ZYF7 小时前
高并发场景下的大 Key 问题及应对策略
redis·分布式·缓存
张彦峰ZYF8 小时前
高并发场景下的缓存击穿问题探析与应对策略
redis·分布式·缓存
Wang's Blog11 小时前
Kafka: 生产者客户端工作机制深度解析
分布式·kafka