flink1.15.0消费kafka 报错 The coordinator is not available.

报错

You should retry committing the latest consumed offsets.

Caused by: org.apache.kafka.common.errors.CoordinatorNotAvailableException: The coordinator is not available.

但是任务还在正常跑.

开源bug

FLINK-28060 Kafka Commit on checkpointing fails repeatedly after a broker restart - ASF JIRA

导致的现象

任务还在跑 认识消费kafka的偏移量没有随着checkpoint提交到kafka broker. 会导致如果监控任务监控kafka broker存储的偏移量,那么就会任务你的任务一致没有消费.

解决

重启任务

升级到flink 1.16.x

相关推荐
骑着蜗牛撵大象32713 小时前
558 万美元训出 671B 模型:DeepSeek-V3 算法与系统的协同拆解
分布式·算法·moe·deepseek-v3·mla·fp8训练
德迅云安全-上官14 小时前
德迅游戏盾:面向 TCP 业务的分布式云安全防护方案
分布式·tcp/ip·游戏
麻瓜code16 小时前
分布式锁演进:从一个用户下两单,到 Redisson,我改了四版
分布式·wpf
starzy199016 小时前
Kafka网络层第一道门:Acceptor线程是怎么启动的
大数据·kafka
skywalk816316 小时前
hive —— 多机 AI Agent 协同的任务总线:分布式,多节点同时运行,保障不会宕机
人工智能·hive·分布式
huaweichenai16 小时前
spring boot对接kafka实现消息队列处理
spring boot·后端·kafka
你看我名字17 小时前
Kafka 架构、消息可靠性与生产运维:从分区模型到故障治理
运维·架构·kafka
一条泥憨鱼17 小时前
【RabbitMQ】高级篇
java·分布式·rabbitmq·php·ruby
棣廷18 小时前
初识Spark Core
大数据·分布式·spark
凯凯姜1 天前
分布式锁场景问题
分布式