Kafka常见问题之Kafka 报错：org.apache.kafka.common.errors.NotLeaderOrFollowerException

大秦王多鱼2025-01-26 22:32

Kafka常见问题之Kafka 报错：org.apache.kafka.common.errors.NotLeaderOrFollowerException

文章目录

  • [Kafka常见问题之Kafka 报错：org.apache.kafka.common.errors.NotLeaderOrFollowerException](#Kafka常见问题之Kafka 报错：org.apache.kafka.common.errors.NotLeaderOrFollowerException)
  • [0. NotLeaderOrFollowerException描述](#0. NotLeaderOrFollowerException描述)
  • [1. NotLeaderOrFollowerException产生背景](#1. NotLeaderOrFollowerException产生背景)
  • [2. NotLeaderOrFollowerException产生原因](#2. NotLeaderOrFollowerException产生原因)
    • [2.1 分区的 Leader 不可用](#2.1 分区的 Leader 不可用)
    • [2.2 元数据过时](#2.2 元数据过时)
    • [2.3 分区未分配 Leader](#2.3 分区未分配 Leader)
    • [2.4 Broker 配置错误](#2.4 Broker 配置错误)
    • [2.5 重平衡导致的临时不可用](#2.5 重平衡导致的临时不可用)
  • [3. 排查方向](#3. 排查方向)
    • [3.1 检查 Kafka Broker 状态](#3.1 检查 Kafka Broker 状态)
    • [3.2 查看分区的 Leader 状态](#3.2 查看分区的 Leader 状态)
    • [3.3 手动触发分区重新分配](#3.3 手动触发分区重新分配)
    • [3.4 检查客户端的元数据刷新](#3.4 检查客户端的元数据刷新)
    • [3.5 检查副本同步配置](#3.5 检查副本同步配置)
    • [3.6 避免频繁的分区重平衡](#3.6 避免频繁的分区重平衡)
  • [4. 具体案例](#4. 具体案例)
    • [案例 1：生产者发送消息失败](#案例 1：生产者发送消息失败)
    • [案例 2：消费者拉取消息失败](#案例 2：消费者拉取消息失败)

NotLeaderOrFollowerException 是 Kafka 中常见的分区 Leader 问题，通常由 Broker 宕机、网络问题或分区元数据不同步引起。通过检查集群状态、合理配置副本同步机制、调整客户端参数以及监控集群，可以有效减少此类问题的发生，提高 Kafka 集群的稳定性和可靠性。

0. NotLeaderOrFollowerException描述

该错误表明客户端（生产者或消费者）向 Kafka Broker 发送请求时，目标分区的 Leader 不可用，或该 Broker 既不是分区的 Leader 也不是其副本（Follower）。因此，该 Broker 无法处理与该分区相关的请求。

1. NotLeaderOrFollowerException产生背景

该错误通常出现在以下场景：

  • 生产者向分区 Leader 发送数据时：生产者通过元数据获取分区的 Leader 信息，如果 Leader 信息过时或不可用，生产者可能会向非 Leader 节点发送数据，导致该错误。
  • 消费者从分区拉取数据时：消费者尝试从分区 Leader 拉取消息，如果 Leader 不可用或元数据不同步，则会出现该错误。
  • Kafka 分区的 Leader 发生变更：当 Kafka 发生分区重平衡（Rebalance）或 Leader 重新选举时，客户端可能遇到临时的 Leader 不可用。

2. NotLeaderOrFollowerException产生原因

2.1 分区的 Leader 不可用

  • Kafka 分区的 Leader 可能由于 Broker 宕机或网络问题变得不可用。
  • 如果 Kafka 集群中的 ISR（同步副本集合）为空，可能无法选出新的 Leader。

2.2 元数据过时

  • 客户端缓存的分区元数据已过期，但未及时刷新，导致请求被发送到错误的 Broker。

2.3 分区未分配 Leader

  • 某些分区可能由于分区副本分配不均或配置问题，未正确分配 Leader。

2.4 Broker 配置错误

  • Kafka Broker 的配置不正确，例如副本同步超时过短、分区分配不均等问题。

2.5 重平衡导致的临时不可用

  • 消费者或生产者触发分区的重平衡时，短时间内可能导致分区的 Leader 信息不可用。

3. 排查方向

3.1 检查 Kafka Broker 状态

确认 Kafka 集群中的所有 Broker 是否都处于正常运行状态。可以通过以下命令检查：

bash 复制代码 
bin/kafka-broker-api-versions.sh --bootstrap-server <broker_host>:9092

3.2 查看分区的 Leader 状态

通过以下命令检查目标分区的 Leader 信息是否正常：

bash 复制代码 
bin/kafka-topics.sh --bootstrap-server <broker_host>:9092 --describe --topic <your_topic>

输出示例：

复制代码 
    Topic: my_topic    PartitionCount: 3    ReplicationFactor: 2    Configs:
    Topic: my_topic    Partition: 0    Leader: 1    Replicas: 1,2    Isr: 1,2
    Topic: my_topic    Partition: 1    Leader: 2    Replicas: 2,3    Isr: 2,3
    Topic: my_topic    Partition: 2    Leader: 3    Replicas: 3,1    Isr: 3,1
  • 如果 Leader 为 -1，表示该分区没有 Leader，需要手动触发重新选举。

3.3 手动触发分区重新分配

如果某些分区的 Leader 信息异常，可以尝试重新分配分区。

生成分配计划：

bash 复制代码 
bin/kafka-reassign-partitions.sh --bootstrap-server <broker_host>:9092 --generate --topics-to-move-json-file topics.json --broker-list "0,1,2"

执行分配计划：

bash 复制代码 
bin/kafka-reassign-partitions.sh --bootstrap-server <broker_host>:9092 --execute --reassignment-json-file reassignment.json

3.4 检查客户端的元数据刷新

确保生产者和消费者的元数据刷新配置合理，避免使用过时的分区元数据。

  • 修改生产者配置：

    properties 复制代码 
    metadata.max.age.ms=30000  # 每 30 秒刷新元数据

  • 修改消费者配置：

    properties 复制代码 
    session.timeout.ms=10000  # 会话超时时间为 10 秒
heartbeat.interval.ms=3000  # 心跳间隔为 3 秒

3.5 检查副本同步配置

确保副本的同步配置合理，以减少分区 Leader 不可用的风险：

  • 增大以下 Broker 配置参数的值：

    properties 复制代码 
    replica.lag.time.max.ms=10000    # 副本允许的最大同步延迟时间
replica.lag.max.messages=4000   # 副本允许的最大同步消息数量

  • 增加分区副本数，提高副本的容错能力。

3.6 避免频繁的分区重平衡

调整消费者的配置，减少分区重平衡的频率。例如：

properties 复制代码 
max.poll.interval.ms=300000  # 增加拉取消息的最大时间间隔

4. 具体案例

案例 1：生产者发送消息失败

现象 ：

生产者向 Kafka 主题发送消息时，报错：

复制代码 
org.apache.kafka.common.errors.NotLeaderOrFollowerException: This server is not the leader for that topic-partition.

原因 ：

Kafka 分区的 Leader 因 Broker 宕机不可用。

解决方法：

  1. 查看 Kafka 集群的分区 Leader 信息：

    bash 复制代码 
    bin/kafka-topics.sh --bootstrap-server <broker_host>:9092 --describe --topic my_topic

  2. 如果 Leader 为 -1，触发分区的 Leader 重新选举：

    bash 复制代码 
    bin/kafka-preferred-replica-election.sh --bootstrap-server <broker_host>:9092

案例 2：消费者拉取消息失败

现象 ：

消费者从 Kafka 主题消费消息时，报错：

复制代码 
org.apache.kafka.common.errors.NotLeaderOrFollowerException

原因 ：

分区的 Leader 变更或元数据未及时刷新。

解决方法：

  1. 检查消费者的配置，确保元数据刷新频率足够高：

    properties 复制代码 
    metadata.max.age.ms=30000  # 每 30 秒刷新元数据

  2. 查看 Kafka 分区状态，确保分区有 Leader：

    bash 复制代码 
    bin/kafka-topics.sh --bootstrap-server <broker_host>:9092 --describe --topic my_topic
相关推荐
掘金-我是哪吒10 分钟前
分布式微服务系统架构第130集：Python工程化FastAPI，运维Nginx-keepalived+Nginx实现高可用集群
运维·分布式·微服务·系统架构·fastapi
不会飞的鲨鱼1 小时前
Windows系统下使用Kafka和Zookeeper，Python运行kafka（二）
windows·zookeeper·kafka
Chase_Mos3 小时前
RabbitMQ 工作模式
分布式·rabbitmq
Lucas64912 小时前
kafka的安装及简单使用
分布式·kafka
掘金-我是哪吒12 小时前
分布式微服务系统架构第127集：cassandra安装部署
分布式·微服务·云原生·架构·系统架构
MZWeiei13 小时前
Spark任务调度流程详解
大数据·分布式·spark·scala
бесплатно13 小时前
Spark-Core（RDD行动算子）
大数据·分布式·spark
Cxzzzzzzzzzz15 小时前
Kafka的基本概念和Dokcer中部署Kafka
分布式·kafka
搞不懂语言的程序员15 小时前
Kafka Controller的作用是什么？故障时如何恢复？ （管理分区和副本状态；通过ZooKeeper选举新Controller）
分布式·zookeeper·kafka
onkel in blog18 小时前
【Docker】Docker Compose方式搭建分布式内存数据库(Redis)集群
数据库·redis·分布式·docker
热门推荐
01【分布式】Hadoop完全分布式的搭建（零基础）02从零安装 LLaMA-Factory 微调 Qwen 大模型成功及所有的坑03KGG转MP3工具|非KGM文件|解密音频04YOLOv8入门 | 重要性能衡量指标、训练结果评价及分析及影响mAP的因素【发论文关注的指标】05【SpeedAI科研小助手】2分钟极速解决知网维普重复率、AIGC率过高，一键全文降！文件格式不变，公式都保留的！06Coze扣子平台完整体验和实践（附国内和国际版对比）07DeepSeek各版本说明与优缺点分析08苍穹外卖面试总结09西电B测-计算机网络综合实验(含验收问题)10组基轨迹建模 GBTM的介绍与实现（Stata 或 R）