02、Kafka ------ 配置 Kafka 集群

目录

配置 Kafka 集群

启动命令:

1、启动 zookeeper 服务器端

小黑窗输入命令: zkServer

2、启动 zookeeper 的命令行客户端工具

(这个只是用来看连接的节点信息,不启动也没关系)

小黑窗输入命令:zkCli -server 127.0.0.1:2181

3、启动 Kafka 服务器:

第1个kafka服务器,也就是第1个节点:

kafka-server-start E:/install/kafka_2.13-3.6.1/config/server.properties

第2个kafka服务器,也就是第2个节点:

kafka-server-start E:/install/kafka_2.13-3.6.1/config/server-1.properties

第3个kafka服务器,也就是第3个节点:

kafka-server-start E:/install/kafka_2.13-3.6.1/config/server-2.properties

配置步骤

Kafka 在集群模式下才能体现它的一些优势。因为是演示,所以不可能弄很多台服务器来搭建 Kafka 集群环境,所以只能在一台电脑里面,运行多个kafka进程,就是通过监听不同的端口来实现。

1、如果要配置Kafka集群,也就是启动多个Kafka节点。以再启动两个Kafka节点为例, 那应将config子目录下的server.properties再复制两份,重命名为server-1.properties和server-2.properties

并将它们分别修改为:

【config/server-1.properties】:

指定该节点的唯一标识

broker.id=1

指定该节点监听端口

listeners=PLAINTEXT://:9093 和 9094

advertised.listeners=PLAINTEXT://localhost:9093 和 9094

复制两份,然后修改配置内容:

2、指定该节点的数据存储目录

log.dirs=E:/install/kafka_2.13-3.6.1/kafka-data-1

拷贝的这两份,修改存储数据的文件夹的名字

就是拷贝的配置文件改了这几处地方:

【config/server-2.properties】:

broker.id=2

listeners=PLAINTEXT://:9094

advertised.listeners=PLAINTEXT://localhost:9094

log.dir=log.dirs=E:/install/kafka_2.13-3.6.1/kafka-data-2

配置文件修改到的地方:

一个broker就是一个kafka节点,也就是一个kafka。

启动各Kafka节点

此时加上拷贝的两个,就有三个kafka节点了。来启动它们:

依次运行如下命令,先启动第2个节点,监听9093端口:

复制代码
kafka-server-start E:/install/kafka_2.13-3.6.1/config/server-1.properties

启动第3个节点,监听9094端口:

复制代码
 kafka-server-start E:/install/kafka_2.13-3.6.1/config/server-2.properties

由于本例是在同一台主机上运行多个Kafka节点,因此将3个节点的监听端口分别设为9092(默认端口)、9093(第2个节点)和9094(第3个节点)。

如果在不同主机上分别启动不同的Kafka节点,则可以让它们都使用9092的默认端口。

如果Kafka节点与ZooKeeper不在同一台主机上,则需要修改Kafka config目录下的server.properties文件中的如下一行:

复制代码
# 设置ZooKeeper的主机和端口
zookeeper.connect=localhost:2181

因为现在都是在同一台主机上面操作,就不用弄其他的了。

可以看到,kafka集群,三个节点都已经启动成功了。

启动 zookeeper 的命令行客户端工具,小黑窗输入命令:zkCli -server 127.0.0.1:2181 和 ls /

可以看到很多东西都注册到 zookeeper 里面了,因为zookeeper就是用来管理这些分布式节点数据的。

相关推荐
giaz14n9X38 分钟前
Redis 分布式锁进阶第五十一篇
数据库·redis·分布式
2603_954708312 小时前
微电网协调控制系统柜的应用场景有哪些?
分布式·安全·架构·能源·需求分析
Amy187021118232 小时前
微电网+虚拟电厂 是新型电力系统中的“组合拳”
分布式·能源
他们叫我阿冠3 小时前
Kafka的基本了解
分布式·kafka
Amy187021118234 小时前
分布式光伏并网新规落地在即,一套监控系统如何打通“四可”合规与收益优化的双重关卡?
分布式
超梦dasgg4 小时前
Java 生产环境分布式定时任务全解(实战落地版)
java·开发语言·分布式
汪小哥5 小时前
kafka 初识
分布式·kafka
Shan12055 小时前
分布式锁的优势与互斥性
分布式
段一凡-华北理工大学6 小时前
工业领域的Hadoop架构学习~系列文章18:制造业Hadoop应用实践 - 从数据到智能的完整闭环
大数据·人工智能·hadoop·分布式·学习·架构·高炉炼铁
暗夜猎手-大魔王6 小时前
转载--Hermes Agent 企业级分布式部署方案
分布式