Kafka节点服役和退役

1 服役新节点

1)新节点准备

(1)关闭 bigdata03,进行一个快照,并右键执行克隆操作。

(2)开启 bigdata04,并修改 IP 地址。

sql 复制代码
vi /etc/sysconfig/network-scripts/ifcfg-ens33

修改完记得重启网卡:
systemctl restart network

(3)在 bigdata04 上,修改主机名称为 bigdata04。

sql 复制代码
hostname bigdata04    # 临时修改

root@bigdata04 \~\]# vim /etc/hostname bigdata04 还要记得修改 /etc/hosts文件,并进行同步 ```sql 修改bigdata01的hosts 文件,修改完之后,记得同步一下 192.168.52.11 bigdata01 192.168.52.12 bigdata03 192.168.52.13 bigdata02 192.168.52.14 bigdata04 xsync.sh /etc/hosts scp -r /etc/hosts root@bigdata04:/etc/ ``` (4)重新启动 bigdata03、bigdata04。 (5)修改 bigdata04 中 kafka 的 broker.id 为 3。 ```sql 进入bigdata04的kafka中,修改里面的配置文件 config/server.properties ``` (6)删除 bigdata04 中 kafka 下的 datas 和 logs。 rm -rf datas/\* logs/\* (7)启动 bigdata01、bigdata02、bigdata03 上的 kafka 集群。 先启动zk集群 ```sql xcall.sh zkServer.sh stop xcall.sh zkServer.sh start ``` 启动kafka集群(只能启动三台) ```sql kf.sh start ``` (8)单独启动 bigdata04 中的 kafka。 ```sql kafka-server-start.sh -daemon ./config/server.properties ``` 查看kafka集群first主题的详情: kafka-topics.sh --bootstrap-server bigdata01:9092 --topic first --describe 发现副本数并没有增加。 由于我之前创建first这个主题的时候只有一个副本,不是三个副本,所以呢,演示效果不佳。 kafka-topics.sh --bootstrap-server bigdata01:9092 --topic third --create --partitions 3 --replication-factor 3 ![](https://i-blog.csdnimg.cn/direct/61455f21f4e24daaab3a652a59427cad.png) ##### 2)执行负载均衡操作 (1)创建一个要均衡的主题 在Kafka下: 创建一个文件:vi topics-to-move.json 写上如下代码,如果多个topic 可以使用,分隔 ```sql { "topics": [ {"topic": "third"} ], "version": 1 } ``` 2)生成一个负载均衡的计划 在创建的时候,记得启动bigdata04节点,否则计划中还是没有bigdata04 ```python kafka-reassign-partitions.sh --bootstrap-server bigdata01:9092 --topics-to-move-json-file topics-to-move.json --broker-list "0,1,2,3" --generate ``` ![](https://i-blog.csdnimg.cn/direct/1423e5b71cde40e19672b15227657a6d.png) 未来的分区策略拷贝一份: ```python {"version":1,"partitions":[{"topic":"abc","partition":0,"replicas":[2,0,1],"log_dirs":["any","any","any"]},{"topic":"abc","partition":1,"replicas":[3,1,2],"log_dirs":["any","any","any"]},{"topic":"abc","partition":2,"replicas":[0,2,3],"log_dirs":["any","any","any"]}]} ``` (3)创建副本存储计划(所有副本存储在 broker0、broker1、broker2、broker3 中)。 ```python vi increase-replication-factor.json ``` ```python {"version":1,"partitions":[{"topic":"first","partition":0,"replicas":[3,2,0],"log_dirs":["any","any","any"]},{"topic":"first","partition":1,"replicas":[0,3,1],"log_dirs":["any","any","any"]},{"topic":"first","partition":2,"replicas":[1,0,2],"log_dirs":["any","any","any"]}]} 以上这个内容来自于第二步的执行计划。 ``` (4)执行副本存储计划。 ```python kafka-reassign-partitions.sh --bootstrap-server bigdata01:9092 --reassignment-json-file increase-replication-factor.json --execute ``` (5)验证副本存储计划。 ```python kafka-reassign-partitions.sh --bootstrap-server bigdata01:9092 --reassignment-json-file increase-replication-factor.json --verify ``` 如果不相信添加成功,可以查看first节点的详情: ![](https://i-blog.csdnimg.cn/direct/8954b0fe20dd462c8eba3e23a19f3e55.png) #### 2 退役旧节点 ##### **1)执行负载均衡操作** 先按照退役一台节点,生成执行计划,然后按照服役时操作流程执行负载均衡。 (1)创建一个要均衡的主题 ```python kafka下添加文件:vim topics-to-move.json 添加如下内容: { "topics": [ {"topic": "abc"} ], "version": 1 } ``` (2)创建执行计划。 bin/kafka-reassign-partitions.sh --bootstrap-server bigdata01:9092 --topics-to-move-json-file topics-to-move.json --broker-list "0,1,2" --generate (3)创建副本存储计划(所有副本存储在 broker0、broker1、broker2 中)。 ```python 添加文件: vi increase-replication-factor.json 添加如下代码: {"version":1,"partitions":[{"topic":"first","partition":0,"replicas":[0,2,1],"log_dirs":["any","any","any"]},{"topic":"first","partition":1,"replicas":[1,0,2],"log_dirs":["any","any","any"]},{"topic":"first","partition":2,"replicas":[2,1,0],"log_dirs":["any","any","any"]}]} ``` (4)执行副本存储计划 ```python kafka-reassign-partitions.sh --bootstrap-server hadoop11:9092 --reassignment-json-file increase-replication-factor.json --execute ``` ##### **2** **)执行停止命令** 在 bigdata04上执行停止命令即可。 ```python kafka-server-stop.sh ```

相关推荐
十六年开源服务商1 分钟前
外贸WordPress用户调查与满意度调查实战指南2026
大数据·数据库·人工智能
cui_ruicheng3 分钟前
Linux线程(四):线程池、日志系统与单例模式
linux·开发语言·单例模式
AOwhisky4 分钟前
Docker 学习笔记:网络篇
linux·运维·网络·笔记·学习·docker·容器
小王毕业啦5 分钟前
1949-2023年 各地级市、县新注册农民专业合作社数量数据(xlsx+dta+代码)
大数据·人工智能·数据挖掘·数据分析·社科数据·实证分析·经管数据
被放养的研究生14 分钟前
Windows 与 Linux 文件系统区别及常见对应关系
linux·运维·windows
怀旧,20 分钟前
【Linux系统编程】23. 线程同步与互斥(下)
linux·运维·服务器
boonya22 分钟前
大数据其他组件怎么跟flink进行交互与落地?
大数据·flink
武超杰22 分钟前
ElasticSearch 从入门到实战
大数据·elasticsearch·搜索引擎
偶尔上线经常挺尸24 分钟前
《每日一命令18:iptables——Linux防火墙入门》
linux·运维·服务器·iptables·防火墙
magic_now24 分钟前
U-Boot双阶段启动机制深度解析:init_sequence_f[] 与 init_sequence_r[]
linux·嵌入式硬件