Kafka KRaft 模式(无 ZooKeeper)是啥

Kafka KRaft 模式详解

什么是 KRaft 模式?

KRaft(Kafka Raft)模式是 Apache Kafka 的新架构,用 Kafka 自身的共识算法替代了 ZooKeeper 的依赖。

传统架构 vs KRaft 架构

传统架构(依赖 ZooKeeper)
复制代码
Kafka Brokers (多个)  ────> ZooKeeper 集群 (3-5节点)
       │                      │
   消息存储                元数据管理
   客户端通信              控制器选举
                       Topic/分区信息
KRaft 架构(无 ZooKeeper)
复制代码
Kafka Brokers (多个)  ────> Kafka Controllers (使用Raft共识)
       │                      │
   消息存储                元数据管理
   客户端通信              控制器选举
                       Topic/分区信息

KRaft 的核心概念

1. 节点角色

  • Controller 节点:负责集群元数据管理,使用 Raft 共识算法
  • Broker 节点:负责消息存储和客户端通信
  • Combined 节点:同时担任 Controller 和 Broker 角色

2. Raft 共识算法

  • 基于投票的领导者选举机制
  • 保证元数据的一致性和高可用
  • 需要奇数个 Controller 节点(1,3,5...)

KRaft 的优势

1. 简化架构

bash 复制代码
# 之前需要部署
Kafka集群 + ZooKeeper集群

# 现在只需要
Kafka集群(KRaft模式)

2. 性能提升

  • 元数据操作更快(减少网络跳转)
  • 启动时间更短
  • 支持更多分区(从 20万 → 到 200万+)

3. 运维简化

  • 减少组件依赖
  • 统一的监控和管理
  • 更简单的安全配置

配置示例

单节点开发环境(你之前的配置)

bash 复制代码
KAFKA_CFG_NODE_ID=0
KAFKA_CFG_PROCESS_ROLES=controller,broker
KAFKA_CFG_CONTROLLER_QUORUM_VOTERS=0@kafka:9093

三节点生产环境

bash 复制代码
# 节点1
KAFKA_CFG_NODE_ID=1
KAFKA_CFG_PROCESS_ROLES=controller,broker
KAFKA_CFG_CONTROLLER_QUORUM_VOTERS=1@kafka1:9093,2@kafka2:9093,3@kafka3:9093

# 节点2
KAFKA_CFG_NODE_ID=2
KAFKA_CFG_PROCESS_ROLES=controller,broker
KAFKA_CFG_CONTROLLER_QUORUM_VOTERS=1@kafka1:9093,2@kafka2:9093,3@kafka3:9093

# 节点3
KAFKA_CFG_NODE_ID=3
KAFKA_CFG_PROCESS_ROLES=controller,broker
KAFKA_CFG_CONTROLLER_QUORUM_VOTERS=1@kafka1:9093,2@kafka2:9093,3@kafka3:9093

迁移考虑

何时使用 KRaft

  • 新集群:强烈推荐使用 KRaft
  • 开发测试环境:简化部署
  • ⚠️ 现有集群:需要迁移过程

版本要求

  • Kafka 3.3+:KRaft 生产就绪
  • Kafka 3.0-3.2:KRaft 早期版本(不推荐生产)

总结

KRaft 模式是 Kafka 的重要演进,它:

  • 消除了 ZooKeeper 依赖
  • 提升了性能和可扩展性
  • 简化了运维复杂度
  • 是 Kafka 未来的发展方向

你的配置正是一个典型的单节点 KRaft 模式,非常适合开发和测试使用!

相关推荐
或与且与或非36 分钟前
rabbitmq选举集群搭建
分布式·rabbitmq·ruby
无心水1 小时前
【分布式利器:金融级】金融级分布式架构开源框架全景解读
人工智能·分布式·金融·架构·开源·wpf·金融级框架
Swift社区1 小时前
分布式能力在鸿蒙 PC 上到底怎么用?
分布式·华为·harmonyos
Devin~Y1 小时前
大厂Java面试实战:Spring Boot微服务、Redis缓存、Kafka消息队列与Spring AI RAG
java·spring boot·redis·kafka·mybatis·spring mvc·hikaricp
无心水1 小时前
【分布式利器:SOAF】蚂蚁开源的金融级微服务全家桶:SOFAStack 核心架构与实战选型对比
人工智能·分布式·微服务·金融·架构·开源·分布式利器
深蓝电商API1 小时前
分布式电商爬虫架构:Scrapy-Redis+消息队列的集群部署
分布式·爬虫·架构
阿正的梦工坊2 小时前
RabbitMQ 消息队列详解:从原理到实战
分布式·rabbitmq
敖正炀16 小时前
高并发系统的降级预案与容错策略
分布式·架构
敖正炀16 小时前
稳定性监控与告警体系:SLI/SLO/SLA 实践
分布式·架构
敖正炀16 小时前
故障演练与混沌工程:ChaosBlade 到 Litmus
分布式·架构