flink1.12.4消费kafka 报错 The coordinator is not available

报错

You should retry committing the latest consumed offsets.

Caused by: org.apache.kafka.common.errors.CoordinatorNotAvailableException: The coordinator is not available.

但是任务还在正常跑.

开源bug

[FLINK-28060] Kafka Commit on checkpointing fails repeatedly after a broker restart - ASF JIRA

导致的现象

任务还在跑 认识消费kafka的偏移量没有随着checkpoint提交到kafka broker. 会导致如果监控任务监控kafka broker存储的偏移量,那么就会任务你的任务一致没有消费.

解决

重启任务

升级到flink 1.16.x

相关推荐
Rookie小强3 小时前
kafka的rebalance机制是什么
分布式·kafka
程序员不迷路16 小时前
Flink学习
大数据·flink
码农小灰17 小时前
Kafka消息持久化机制全解析:存储原理与实战场景
java·分布式·kafka
Raisy_18 小时前
05 ODS层(Operation Data Store)
大数据·数据仓库·kafka·flume
纪莫1 天前
Kafka如何保证「消息不丢失」,「顺序传输」,「不重复消费」,以及为什么会发生重平衡(reblanace)
java·分布式·后端·中间件·kafka·队列
IT果果日记1 天前
flink+dolphinscheduler+dinky打造自动化数仓平台
大数据·后端·flink
poemyang1 天前
千亿消息“过眼云烟”?Kafka把硬盘当内存用的性能魔法,全靠这一手!
kafka·高并发·pagecache·存储架构·顺序i/o·局部性原理
武子康1 天前
大数据-75 Kafka 高水位线 HW 与日志末端 LEO 全面解析:副本同步与消费一致性核心
大数据·后端·kafka
君不见,青丝成雪2 天前
Flink双流join
大数据·数据仓库·flink
齐木卡卡西在敲代码2 天前
kafka的pull的依据
分布式·kafka