flink1.12.4消费kafka 报错 The coordinator is not available

报错

You should retry committing the latest consumed offsets.

Caused by: org.apache.kafka.common.errors.CoordinatorNotAvailableException: The coordinator is not available.

但是任务还在正常跑.

开源bug

[FLINK-28060] Kafka Commit on checkpointing fails repeatedly after a broker restart - ASF JIRA

导致的现象

任务还在跑 认识消费kafka的偏移量没有随着checkpoint提交到kafka broker. 会导致如果监控任务监控kafka broker存储的偏移量,那么就会任务你的任务一致没有消费.

解决

重启任务

升级到flink 1.16.x

相关推荐
Hello.Reader16 小时前
Flink SQL 的 JAR 语句ADD JAR / SHOW JARS / REMOVE JAR(SQL CLI 实战 + 避坑指南)
sql·flink·jar
Jackeyzhe1 天前
Flink源码阅读:如何生成ExecutionGraph
flink
太阳伞下的阿呆1 天前
kafka高吞吐持久化方案(2)
分布式·kafka·高并发·重入锁
山沐与山1 天前
【Flink】Flink编程模型:DataStream与DataSet
大数据·flink
面向Google编程1 天前
Flink源码阅读:如何生成ExecutionGraph
大数据·flink
面向Google编程2 天前
Flink源码阅读:状态管理
大数据·flink
面向Google编程2 天前
Flink源码阅读:Checkpoint机制(下)
大数据·flink
Jackyzhe2 天前
Flink源码阅读:Checkpoint机制(上)
大数据·flink
Lin_Miao_092 天前
Flink + Doris + Airflow 构建企业级实时报表统计平台方案
大数据·flink
Chasing__Dreams2 天前
kafka--基础知识点--19--消息重复
分布式·kafka