kafka-3.8.0三节点集群(KRaft协议)

Kafka3.8.0的KRaft 模式使用 config/kraft/server.properties 作为配置文件。本文将采用合并模式,即每个节点同时承担 Broker 和 Controller 角色(process.roles=broker,controller),这是三节点生产环境的推荐配置

一、下载安装包

tar -zxvf kafka_2.13-3.8.0.tgz -C /usr/local

cd /usr/local/kafka_2.13-3.8.0

二、修改config/kraft/server.properties配置

node01上

vi config/kraft/server.properties ,修改配置

复制代码
# 节点角色:同时作为 Broker 和 Controller
process.roles=broker,controller

# 节点唯一标识
node.id=1

# Controller 通信端口监听
controller.listener.names=CONTROLLER

# 监听器配置
listeners=PLAINTEXT://:9092,CONTROLLER://:9093

# 对外公布地址(重要:使用主机名或 IP)
advertised.listeners=PLAINTEXT://node01:9092

# 集群所有 Controller 节点列表(格式:id@host:port)
controller.quorum.voters=1@node01:9093,2@node02:9093,3@node03:9093

# 数据存储目录
log.dirs=/data/kafka-logs

# 安全协议映射
listener.security.protocol.map=CONTROLLER:PLAINTEXT,PLAINTEXT:PLAINTEXT,SSL:SSL,SASL_PLAINTEXT:SASL_PLAINTEXT,SASL_SSL:SASL_SSL

# Broker 间通信使用的监听器
inter.broker.listener.name=PLAINTEXT

node02上配置(修改 node.id=2 和 advertised.listeners 中的主机名)

复制代码
process.roles=broker,controller
node.id=2
controller.listener.names=CONTROLLER
listeners=PLAINTEXT://:9092,CONTROLLER://:9093
advertised.listeners=PLAINTEXT://node02:9092
controller.quorum.voters=1@node01:9093,2@node02:9093,3@node03:9093
log.dirs=/data/kafka-logs
listener.security.protocol.map=CONTROLLER:PLAINTEXT,PLAINTEXT:PLAINTEXT,SSL:SSL,SASL_PLAINTEXT:SASL_PLAINTEXT,SASL_SSL:SASL_SSL
inter.broker.listener.name=PLAINTEXT

node03上配置(修改 node.id=3 和 advertised.listeners 中的主机名)

复制代码
process.roles=broker,controller
node.id=3
controller.listener.names=CONTROLLER
listeners=PLAINTEXT://:9092,CONTROLLER://:9093
advertised.listeners=PLAINTEXT://node03:9092
controller.quorum.voters=1@node01:9093,2@node02:9093,3@node03:9093
log.dirs=/data/kafka-logs
listener.security.protocol.map=CONTROLLER:PLAINTEXT,PLAINTEXT:PLAINTEXT,SSL:SSL,SASL_PLAINTEXT:SASL_PLAINTEXT,SASL_SSL:SASL_SSL
inter.broker.listener.name=PLAINTEXT

三、格式化存储并启动集群

1、生成集群 ID(仅在 node01 执行一次)

复制代码
bin/kafka-storage.sh random-uuid  

执行后会输出一个 UUID,例如:hCbNlQp-RSySfQp-RSySfQ,请记录此 UUID,后续步骤需要用到

2、格式化存储目录(所有节点执行)

复制代码
bin/kafka-storage.sh format -t <集群UUID> -c config/kraft/server.properties

3、启动 Kafka 服务(所有节点执行)

复制代码
# 后台启动
bin/kafka-server-start.sh -daemon config/kraft/server.properties
 
# 或前台启动(用于观察启动日志)
bin/kafka-server-start.sh config/kraft/server.properties

4、验证集群状态

复制代码
# 查看集群元数据状态
bin/kafka-metadata-quorum.sh --bootstrap-server node01:9092 describe --status
 
# 查看 Broker 列表
bin/kafka-broker-api-versions.sh --bootstrap-server node01:9092

其他命令

复制代码
# 查看集群元数据状态
bin/kafka-metadata-quorum.sh --bootstrap-server node01:9092 describe --status

# 查看 Broker 列表
bin/kafka-broker-api-versions.sh --bootstrap-server node01:9092

# 查看topic列表
bin/kafka-topics.sh  --list  --bootstrap-server  localhost:9092 
相关推荐
严肃小白兔4 小时前
Cloudflare Durable Objects 支持自动重试:分布式调用如何避免重复执行?
分布式
用户3610588626125 小时前
深度拆解 Kafka 源码:Producer 构造器装配了哪些核心组件
kafka
方方洛5 小时前
ray教程-27-附录F-RayClient与runtime_env与多语言
人工智能·分布式·机器学习
知识搬运临时工1 天前
Kafka 发 1 GiB 数据,用户态 CPU 只花 0.016 秒,总耗时反而慢了 11%
后端·kafka
方方洛1 天前
ray教程-25-附录E-端到端实战案例
人工智能·分布式·机器学习
一条泥憨鱼2 天前
【消息队列】ACK确认了什么:消息队列可靠投递的完整链路
java·后端·kafka·消息队列·rabbitmq
斯普信专业组2 天前
Kafka 消费者 poll() 流程与原理详解
kafka·流程图
迅翼SwiftWing2 天前
编队系列(二)|固定翼如何依靠邻居信息保持队形?一致性控制、通信拓扑与分布式仿真实现,附仿真代码
分布式
ly76892 天前
幂等消费者与重试副作用:Kafka 端点接入时的去重边界
分布式·kafka·linq·apache camel·幂等消费者·重试副作用·去重边界