flink1.15.0消费kafka 报错 The coordinator is not available.

报错

You should retry committing the latest consumed offsets.

Caused by: org.apache.kafka.common.errors.CoordinatorNotAvailableException: The coordinator is not available.

但是任务还在正常跑.

开源bug

[FLINK-28060] Kafka Commit on checkpointing fails repeatedly after a broker restart - ASF JIRA

导致的现象

任务还在跑 认识消费kafka的偏移量没有随着checkpoint提交到kafka broker. 会导致如果监控任务监控kafka broker存储的偏移量,那么就会任务你的任务一致没有消费.

解决

重启任务

升级到flink 1.16.x

相关推荐
姜来可期1 小时前
【分布式数据一致性算法】Gossip协议详解
分布式
begei1 小时前
理解vllm分布式推理服务中的多节点Multi-Node部署方式
分布式
南宫文凯1 小时前
Hadoop-HA(高可用)机制
大数据·hadoop·分布式·hadoop-ha
天天向上杰4 小时前
简识MQ之Kafka、ActiveMQ、RabbitMQ、RocketMQ传递机制
kafka·rabbitmq·rocketmq·activemq
一个假的前端男4 小时前
RabbitMQ 消息队列
分布式·rabbitmq
liruiqiang054 小时前
DDD - 整洁架构
分布式·微服务·架构
刀客1235 小时前
kafka基本知识
分布式·kafka
菠菠萝宝6 小时前
【Java八股文】11-分布式及场景面试篇
java·分布式·面试·k8s·系统·uuid·mq
莳花微语7 小时前
使用MyCAT实现分布式MySQL双主架构
分布式·mysql·架构
power-辰南10 小时前
高并发系统架构设计全链路指南
分布式·系统架构·高并发·springcloud