flink1.12.4消费kafka 报错 The coordinator is not available

报错

You should retry committing the latest consumed offsets.

Caused by: org.apache.kafka.common.errors.CoordinatorNotAvailableException: The coordinator is not available.

但是任务还在正常跑.

开源bug

[FLINK-28060] Kafka Commit on checkpointing fails repeatedly after a broker restart - ASF JIRA

导致的现象

任务还在跑 认识消费kafka的偏移量没有随着checkpoint提交到kafka broker. 会导致如果监控任务监控kafka broker存储的偏移量,那么就会任务你的任务一致没有消费.

解决

重启任务

升级到flink 1.16.x

相关推荐
JermeryBesian10 小时前
Flink概念知识讲解之:Restart重启策略配置
java·flink·apache
シ風箏13 小时前
Kafka【应用 04】Java实现筛选查询Kafka符合条件的最新数据(保证数据最新+修改map对象key的方法+获取指定数量的记录)源码分享粘贴可用
java·kafka·linq
DaXiongJoker13 小时前
解决高并发环境消息通知涉及问题
java·redis·性能优化·kafka·rabbitmq·信息与通信
续亮~14 小时前
Kafka的Partition故障恢复机制与HW一致性保障-Epoch更新机制详解
java·分布式·后端·kafka
黄名富14 小时前
Kafka 消费者
java·分布式·微服务·kafka
2401_871213301 天前
zookeeper+kafka
分布式·zookeeper·kafka
司晓杰1 天前
Flink 实时数据处理中的问题与解决方案
大数据·flink
lisacumt1 天前
【Flink CDC】Flink CDC的Schema Evolution表结构演变的源码分析和流程图
大数据·flink·流程图
todoitbo1 天前
DockerCompose玩转Kafka单体与集群部署,Redpanda Console助力可视化管理
分布式·kafka·linq·redpanda·zookeeper集群·kafka集群
司晓杰1 天前
使用 Flink CDC 构建 Streaming ETL
大数据·数据仓库·flink·etl