Kafka入门到实战
Kafka集群搭建
官网地址
声明: 由于操作系统, 版本更新等原因, 文章所列内容不一定100%复现, 还要以官方信息为准
bash
https://kafka.apache.org/
Kafka概述
Apache Kafka 是一个开源的分布式事件流平台,提供高性能数据管道、流分析、 数据集成和任务关键型应用程序。
使用Kraft搭建Kafka集群
声明: 由于演示才手动部署集群, 生产中一般通过自动化部署, 比如Ansible, 或者Operator
-
虚拟机配置
-
安装jdk1.8及以上
-
关闭防火墙(测试使用)
-
下载,解压Kafka
-
进入到Kafka家目录后的截图
-
参考Kraft进行集群配置
-
修改kraft目录下的配置,说明: 1. log.dirs生产中要改到其它目录比如/var/kafka-log/kraft-combined-logs , 不然重启后会删除数据 2. 9092是kafka服务示例端口, 9093是Kraft使用的端口
-
controller (规划中的56.62, 56.63, id分别为1和2)
bashprocess.roles=controller broker.id=1 controller.quorum.voters=1@192.168.56.62:9093,2@192.168.56.63:9093,3@192.168.56.64:9093 listeners=CONTROLLER://:9093 # advertised.listeners=CONTROLLER://:9093 log.dirs=/tmp/kraft-combined-logs
-
broker,controller (规划中的56.64)
bashprocess.roles=broker,controller broker.id=3 controller.quorum.voters=1@192.168.56.62:9093,2@192.168.56.63:9093,3@192.168.56.64:9093 listeners=PLAINTEXT://:9092,CONTROLLER://:9093 advertised.listeners=PLAINTEXT://192.168.56.64:9092 log.dirs=/tmp/kraft-combined-logs
-
broker (规划中的56.65)
bashprocess.roles=broker broker.id=4 controller.quorum.voters=1@192.168.56.62:9093,2@192.168.56.63:9093,3@192.168.56.64:9093 listeners=PLAINTEXT://:9092 advertised.listeners=PLAINTEXT://192.168.56.65:9092 log.dirs=/tmp/kraft-combined-logs
-
-
生成一个id号, 后边不同服务器要用同一个, 结果是
eaBR6XiIQVaZwWATjBCqpw
bashKAFKA_CLUSTER_ID="$(bin/kafka-storage.sh random-uuid)" echo $KAFKA_CLUSTER_ID
-
格式化
bashbin/kafka-storage.sh format -t eaBR6XiIQVaZwWATjBCqpw -c config/kraft/server.properties
-
启动
bashbin/kafka-server-start.sh config/kraft/server.properties
-
验证服务示例是不是两个(在64,或65上)执行
bashbin/kafka-broker-api-versions.sh --bootstrap-server localhost:9092
-
结果展示
更新计划
欲知后事如何, 请听下回分解