Hadoop3:动态扩容之新增一台机器的初始化工作

一、需求描述

Hadoop集群动态扩容一个节点

那么,这个节点是全新的,我们需要做哪些准备工作,才能将它融入集群了?

二、初始化配置

1、修改IP和hostname

bash 复制代码
vim /etc/sysconfig/network-scripts/ifcfg-ens33
vim /etc/hostname

2、复制102的hadoop、jdk安装包和环境变量文件

复制安装包,可以用普通账号进行复制

bash 复制代码
scp -r module/* atguigu@hadoop105:/opt/module/

复制环境变量文件,必须用root权限进行复制

bash 复制代码
sudo scp /etc/profile.d/my_env.sh root@hadoop105:/etc/profile.d/my_env.sh

新节点上

bash 复制代码
source /etc/profile

3、新节点上删除data和logs目录

bash 复制代码
cd /opt/module/hadoop-3.1.3
rm -rf data/ logs/

4、配置各个节点到新增节点的免密登陆

102、103、104到新节点的免密登陆

bash 复制代码
cd /home/atguigu/.ssh
ssh-copy-id hadoop105

ssh atguigu@hadoop105	验证免密登陆

5、修改Hadoop集群配置文件

workers文件中,加入新节点域名

whitelist文件中,加入新节点域名

blacklist文件中,确保没有新节点域名

bash 复制代码
cd /opt/module/hadoop-3.1.3/etc/hadoop
vim workers
vim whitelist
vim blacklist

6、修改常用的集群工具文件

这里主要是修改jpsall、xsync文件

加入新节点的域名

bash 复制代码
cd /home/atguigu/bin/

相关推荐
忘了ʷºᵇₐ1 小时前
MapReduce-Top N程序编写与运行
大数据·hadoop·maven·mapreduce·idea
LiRuiJie20 小时前
深度剖析ZooKeeper
java·hadoop·分布式·zookeeper
岁月的眸1 天前
Hadoop-HA高可用集群启动nameNode莫名挂掉,排错解决
大数据·hadoop·分布式
wuli玉shell1 天前
SparkContext介绍
hadoop·spark·sparkcontext
wuli玉shell1 天前
Hadoop-HDFS-Packet含义及作用
大数据·hadoop·hdfs
LiRuiJie2 天前
深度解析 HDFS与Hive的关系
hive·hadoop·hdfs
澜堇2 天前
IDEA2025版本使用Big Data Tools连接Linux上Hadoop的HDFS
大数据·hadoop·intellij-idea
小飞敲代码3 天前
【Hadoop 实战】Yarn 模式上传 HDFS 卡顿时 “No Route to Host“ 错误深度解析与解决方案
大数据·linux·运维·服务器·hadoop·分布式·hdfs
QX_hao3 天前
【Hadoop】--HA高可用搭建--3.2.2
大数据·hadoop·分布式
IvanCodes3 天前
十三、Hive 行列转换
大数据·hive·hadoop