kafka-3.8.0三节点集群(KRaft协议)

Kafka3.8.0的KRaft 模式使用 config/kraft/server.properties 作为配置文件。本文将采用合并模式,即每个节点同时承担 Broker 和 Controller 角色(process.roles=broker,controller),这是三节点生产环境的推荐配置

一、下载安装包

tar -zxvf kafka_2.13-3.8.0.tgz -C /usr/local

cd /usr/local/kafka_2.13-3.8.0

二、修改config/kraft/server.properties配置

node01上

vi config/kraft/server.properties ,修改配置

复制代码
# 节点角色:同时作为 Broker 和 Controller
process.roles=broker,controller

# 节点唯一标识
node.id=1

# Controller 通信端口监听
controller.listener.names=CONTROLLER

# 监听器配置
listeners=PLAINTEXT://:9092,CONTROLLER://:9093

# 对外公布地址(重要:使用主机名或 IP)
advertised.listeners=PLAINTEXT://node01:9092

# 集群所有 Controller 节点列表(格式:id@host:port)
controller.quorum.voters=1@node01:9093,2@node02:9093,3@node03:9093

# 数据存储目录
log.dirs=/data/kafka-logs

# 安全协议映射
listener.security.protocol.map=CONTROLLER:PLAINTEXT,PLAINTEXT:PLAINTEXT,SSL:SSL,SASL_PLAINTEXT:SASL_PLAINTEXT,SASL_SSL:SASL_SSL

# Broker 间通信使用的监听器
inter.broker.listener.name=PLAINTEXT

node02上配置(修改 node.id=2 和 advertised.listeners 中的主机名)

复制代码
process.roles=broker,controller
node.id=2
controller.listener.names=CONTROLLER
listeners=PLAINTEXT://:9092,CONTROLLER://:9093
advertised.listeners=PLAINTEXT://node02:9092
controller.quorum.voters=1@node01:9093,2@node02:9093,3@node03:9093
log.dirs=/data/kafka-logs
listener.security.protocol.map=CONTROLLER:PLAINTEXT,PLAINTEXT:PLAINTEXT,SSL:SSL,SASL_PLAINTEXT:SASL_PLAINTEXT,SASL_SSL:SASL_SSL
inter.broker.listener.name=PLAINTEXT

node03上配置(修改 node.id=3 和 advertised.listeners 中的主机名)

复制代码
process.roles=broker,controller
node.id=3
controller.listener.names=CONTROLLER
listeners=PLAINTEXT://:9092,CONTROLLER://:9093
advertised.listeners=PLAINTEXT://node03:9092
controller.quorum.voters=1@node01:9093,2@node02:9093,3@node03:9093
log.dirs=/data/kafka-logs
listener.security.protocol.map=CONTROLLER:PLAINTEXT,PLAINTEXT:PLAINTEXT,SSL:SSL,SASL_PLAINTEXT:SASL_PLAINTEXT,SASL_SSL:SASL_SSL
inter.broker.listener.name=PLAINTEXT

三、格式化存储并启动集群

1、生成集群 ID(仅在 node01 执行一次)

复制代码
bin/kafka-storage.sh random-uuid  

执行后会输出一个 UUID,例如:hCbNlQp-RSySfQp-RSySfQ,请记录此 UUID,后续步骤需要用到

2、格式化存储目录(所有节点执行)

复制代码
bin/kafka-storage.sh format -t <集群UUID> -c config/kraft/server.properties

3、启动 Kafka 服务(所有节点执行)

复制代码
# 后台启动
bin/kafka-server-start.sh -daemon config/kraft/server.properties
 
# 或前台启动(用于观察启动日志)
bin/kafka-server-start.sh config/kraft/server.properties

4、验证集群状态

复制代码
# 查看集群元数据状态
bin/kafka-metadata-quorum.sh --bootstrap-server node01:9092 describe --status
 
# 查看 Broker 列表
bin/kafka-broker-api-versions.sh --bootstrap-server node01:9092

其他命令

复制代码
# 查看集群元数据状态
bin/kafka-metadata-quorum.sh --bootstrap-server node01:9092 describe --status

# 查看 Broker 列表
bin/kafka-broker-api-versions.sh --bootstrap-server node01:9092

# 查看topic列表
bin/kafka-topics.sh  --list  --bootstrap-server  localhost:9092 
相关推荐
donk13146 小时前
React Native for OpenHarmony 实战:三方库 react-native-step-indicator 的鸿蒙化适配指南
分布式·react native·react.js·wpf·harmonyos
梅菲塔亚8 小时前
Ceph分布式存储
分布式·ceph
acrel710 小时前
Acrel-1000系列分布式光伏监控系统在湖北荆门一马光彩大市场屋顶光伏发电项目中应用
分布式·光伏并网
程序 代码狂人10 小时前
金融数仓体系与核心业务知识详解
大数据·分布式·spark
RobinXYuan10 小时前
【Kafka 源码手记】02 Kafka 的核心哲学:Everything Is A Log
kafka·源码阅读
java_nnnn13 小时前
Redis 初识:从单体架构到分布式架构的演进
redis·分布式·架构
Sayai13 小时前
Kafka 2.8→3.9.1 跨大版本升级实战:ZooKeeper 同步升级、数据目录迁移与回滚预案全流程
大数据·运维·分布式·zookeeper·kafka
敲上瘾13 小时前
分布式系统——Redis哨兵:自动故障转移与选举原理
linux·数据库·redis·分布式·缓存·微服务
微三云 - 廖会灵 (私域系统开发)1 天前
供应链系统实战:多渠道订单聚合与分布式库存一致性方案总结
开发语言·分布式·php