kafka-3.8.0三节点集群(KRaft协议)

Kafka3.8.0的KRaft 模式使用 config/kraft/server.properties 作为配置文件。本文将采用合并模式,即每个节点同时承担 Broker 和 Controller 角色(process.roles=broker,controller),这是三节点生产环境的推荐配置

一、下载安装包

tar -zxvf kafka_2.13-3.8.0.tgz -C /usr/local

cd /usr/local/kafka_2.13-3.8.0

二、修改config/kraft/server.properties配置

node01上

vi config/kraft/server.properties ,修改配置

复制代码
# 节点角色:同时作为 Broker 和 Controller
process.roles=broker,controller

# 节点唯一标识
node.id=1

# Controller 通信端口监听
controller.listener.names=CONTROLLER

# 监听器配置
listeners=PLAINTEXT://:9092,CONTROLLER://:9093

# 对外公布地址(重要:使用主机名或 IP)
advertised.listeners=PLAINTEXT://node01:9092

# 集群所有 Controller 节点列表(格式:id@host:port)
controller.quorum.voters=1@node01:9093,2@node02:9093,3@node03:9093

# 数据存储目录
log.dirs=/data/kafka-logs

# 安全协议映射
listener.security.protocol.map=CONTROLLER:PLAINTEXT,PLAINTEXT:PLAINTEXT,SSL:SSL,SASL_PLAINTEXT:SASL_PLAINTEXT,SASL_SSL:SASL_SSL

# Broker 间通信使用的监听器
inter.broker.listener.name=PLAINTEXT

node02上配置(修改 node.id=2 和 advertised.listeners 中的主机名)

复制代码
process.roles=broker,controller
node.id=2
controller.listener.names=CONTROLLER
listeners=PLAINTEXT://:9092,CONTROLLER://:9093
advertised.listeners=PLAINTEXT://node02:9092
controller.quorum.voters=1@node01:9093,2@node02:9093,3@node03:9093
log.dirs=/data/kafka-logs
listener.security.protocol.map=CONTROLLER:PLAINTEXT,PLAINTEXT:PLAINTEXT,SSL:SSL,SASL_PLAINTEXT:SASL_PLAINTEXT,SASL_SSL:SASL_SSL
inter.broker.listener.name=PLAINTEXT

node03上配置(修改 node.id=3 和 advertised.listeners 中的主机名)

复制代码
process.roles=broker,controller
node.id=3
controller.listener.names=CONTROLLER
listeners=PLAINTEXT://:9092,CONTROLLER://:9093
advertised.listeners=PLAINTEXT://node03:9092
controller.quorum.voters=1@node01:9093,2@node02:9093,3@node03:9093
log.dirs=/data/kafka-logs
listener.security.protocol.map=CONTROLLER:PLAINTEXT,PLAINTEXT:PLAINTEXT,SSL:SSL,SASL_PLAINTEXT:SASL_PLAINTEXT,SASL_SSL:SASL_SSL
inter.broker.listener.name=PLAINTEXT

三、格式化存储并启动集群

1、生成集群 ID(仅在 node01 执行一次)

复制代码
bin/kafka-storage.sh random-uuid  

执行后会输出一个 UUID,例如:hCbNlQp-RSySfQp-RSySfQ,请记录此 UUID,后续步骤需要用到

2、格式化存储目录(所有节点执行)

复制代码
bin/kafka-storage.sh format -t <集群UUID> -c config/kraft/server.properties

3、启动 Kafka 服务(所有节点执行)

复制代码
# 后台启动
bin/kafka-server-start.sh -daemon config/kraft/server.properties
 
# 或前台启动(用于观察启动日志)
bin/kafka-server-start.sh config/kraft/server.properties

4、验证集群状态

复制代码
# 查看集群元数据状态
bin/kafka-metadata-quorum.sh --bootstrap-server node01:9092 describe --status
 
# 查看 Broker 列表
bin/kafka-broker-api-versions.sh --bootstrap-server node01:9092

其他命令

复制代码
# 查看集群元数据状态
bin/kafka-metadata-quorum.sh --bootstrap-server node01:9092 describe --status

# 查看 Broker 列表
bin/kafka-broker-api-versions.sh --bootstrap-server node01:9092

# 查看topic列表
bin/kafka-topics.sh  --list  --bootstrap-server  localhost:9092 
相关推荐
Database_Cool_8 小时前
单机 MySQL 迁移到分布式数据库方便吗?阿里云 PolarDB-X 100% MySQL 协议兼容零改造平滑迁移
数据库·分布式·mysql
肥胖小羊18 小时前
解决企业微信 AccessToken 刷新并发冲突的分布式锁机制实践
分布式·企业微信
AI人工智能+电脑小能手18 小时前
【大白话说Java面试题 第192题】【08_Kafka篇】第8题:死信队列是什么?延时队列是什么?
java·kafka·消息队列·死信队列·延时队列
AI人工智能+电脑小能手2 天前
【大白话说Java面试题 第190题】【08_Kafka篇】第6题:消息队列有什么作用?
java·kafka·消息队列·系统设计·分布式架构
风中凌乱2 天前
kafka新版本集群的安装与部署
分布式·kafka
SLD_Allen2 天前
大规模分布式AI训练基础设施
人工智能·分布式·模型训练
abcy0712132 天前
kafka消息丢失与消息重复消费
kafka
富士康质检员张全蛋2 天前
Kafka的操作-消费的详情
分布式·kafka
昕光xg2 天前
Istio笔记04-基于Jaeger的分布式链路追踪
笔记·分布式·istio
Benjamin℡2 天前
Zookeeper(一)搭建单体和集群服务以及Zookeeper客户端
分布式·zookeeper·云原生