kafka-3.8.0三节点集群(KRaft协议)

Kafka3.8.0的KRaft 模式使用 config/kraft/server.properties 作为配置文件。本文将采用合并模式,即每个节点同时承担 Broker 和 Controller 角色(process.roles=broker,controller),这是三节点生产环境的推荐配置

一、下载安装包

tar -zxvf kafka_2.13-3.8.0.tgz -C /usr/local

cd /usr/local/kafka_2.13-3.8.0

二、修改config/kraft/server.properties配置

node01上

vi config/kraft/server.properties ,修改配置

复制代码
# 节点角色:同时作为 Broker 和 Controller
process.roles=broker,controller

# 节点唯一标识
node.id=1

# Controller 通信端口监听
controller.listener.names=CONTROLLER

# 监听器配置
listeners=PLAINTEXT://:9092,CONTROLLER://:9093

# 对外公布地址(重要:使用主机名或 IP)
advertised.listeners=PLAINTEXT://node01:9092

# 集群所有 Controller 节点列表(格式:id@host:port)
controller.quorum.voters=1@node01:9093,2@node02:9093,3@node03:9093

# 数据存储目录
log.dirs=/data/kafka-logs

# 安全协议映射
listener.security.protocol.map=CONTROLLER:PLAINTEXT,PLAINTEXT:PLAINTEXT,SSL:SSL,SASL_PLAINTEXT:SASL_PLAINTEXT,SASL_SSL:SASL_SSL

# Broker 间通信使用的监听器
inter.broker.listener.name=PLAINTEXT

node02上配置(修改 node.id=2 和 advertised.listeners 中的主机名)

复制代码
process.roles=broker,controller
node.id=2
controller.listener.names=CONTROLLER
listeners=PLAINTEXT://:9092,CONTROLLER://:9093
advertised.listeners=PLAINTEXT://node02:9092
controller.quorum.voters=1@node01:9093,2@node02:9093,3@node03:9093
log.dirs=/data/kafka-logs
listener.security.protocol.map=CONTROLLER:PLAINTEXT,PLAINTEXT:PLAINTEXT,SSL:SSL,SASL_PLAINTEXT:SASL_PLAINTEXT,SASL_SSL:SASL_SSL
inter.broker.listener.name=PLAINTEXT

node03上配置(修改 node.id=3 和 advertised.listeners 中的主机名)

复制代码
process.roles=broker,controller
node.id=3
controller.listener.names=CONTROLLER
listeners=PLAINTEXT://:9092,CONTROLLER://:9093
advertised.listeners=PLAINTEXT://node03:9092
controller.quorum.voters=1@node01:9093,2@node02:9093,3@node03:9093
log.dirs=/data/kafka-logs
listener.security.protocol.map=CONTROLLER:PLAINTEXT,PLAINTEXT:PLAINTEXT,SSL:SSL,SASL_PLAINTEXT:SASL_PLAINTEXT,SASL_SSL:SASL_SSL
inter.broker.listener.name=PLAINTEXT

三、格式化存储并启动集群

1、生成集群 ID(仅在 node01 执行一次)

复制代码
bin/kafka-storage.sh random-uuid  

执行后会输出一个 UUID,例如:hCbNlQp-RSySfQp-RSySfQ,请记录此 UUID,后续步骤需要用到

2、格式化存储目录(所有节点执行)

复制代码
bin/kafka-storage.sh format -t <集群UUID> -c config/kraft/server.properties

3、启动 Kafka 服务(所有节点执行)

复制代码
# 后台启动
bin/kafka-server-start.sh -daemon config/kraft/server.properties
 
# 或前台启动(用于观察启动日志)
bin/kafka-server-start.sh config/kraft/server.properties

4、验证集群状态

复制代码
# 查看集群元数据状态
bin/kafka-metadata-quorum.sh --bootstrap-server node01:9092 describe --status
 
# 查看 Broker 列表
bin/kafka-broker-api-versions.sh --bootstrap-server node01:9092

其他命令

复制代码
# 查看集群元数据状态
bin/kafka-metadata-quorum.sh --bootstrap-server node01:9092 describe --status

# 查看 Broker 列表
bin/kafka-broker-api-versions.sh --bootstrap-server node01:9092

# 查看topic列表
bin/kafka-topics.sh  --list  --bootstrap-server  localhost:9092 
相关推荐
霸道流氓气质29 分钟前
分布式系统设计:技术解析与实践
分布式
ACP广源盛139246256733 小时前
蚂蚁百灵 Ling‑3.0‑flash 开源 + 昇腾 0‑Day 原生适配@ACP#GSV9001E 在国产算力矩阵中的机会与落地场景
大数据·人工智能·分布式·单片机·嵌入式硬件
汽车仪器仪表相关领域7 小时前
KRYPTON坚固型IP67 EtherCAT总线数据采集模块:工业级分布式采集方案
分布式·功能测试·汽车·压力测试·可用性测试
霸道流氓气质9 小时前
Java中信号量(Semaphore):从本地到分布式
java·开发语言·分布式
naierfengdian11 小时前
分布式风电助力乡村能源转型的技术路径
分布式·能源
霸道流氓气质11 小时前
RedLock:Redis 分布式锁的高可用方案
数据库·redis·分布式
DLYSB_12 小时前
Kafka 消费倾斜死锁与 Partition 掉队:我用 Rust 写了个“数据管道物理哨兵”,比 Grafana 报警快了 18 秒
rust·kafka·grafana·报警灯
hhzz12 小时前
《深度学习框架PyTorch入门与实践》系列:09-分布式与并行训练之DataParallel、DDP与Horovod
pytorch·分布式·深度学习
creator_Li13 小时前
Kafka消费者offset提交
kafka
TDengine (老段)13 小时前
TDengine 第三方工具 — Telegraf、Kafka Connect、Flink、Spark
大数据·数据库·物联网·flink·kafka·时序数据库·tdengine