centos7安装hadoop3(下)

一、克隆虚拟机

1、将虚拟机master关机

2、克隆,选择完整克隆

克隆2次,分别保存为slave1,slave2

二、修改克隆后的虚拟机salve1

1、修改slave1的ifcfg-ens33文件的IPADDR

bash 复制代码
IPADDR=192.168.128.131

2、重启网络服务和查看IP地址

bash 复制代码
# 重启网络服务
systemctl restart network
# 查看IP地址
ip addr

3、修改slave1的主机名称

bash 复制代码
hostnamectl set-hostname slave1

4、重启

bash 复制代码
reboot

三、对slave2主机做二中的操作

四、主机互信配置

1、在master主机中执行,并一路回车

bash 复制代码
ssh-keygen -t rsa 

2、复制公钥到其他主机

bash 复制代码
# 每执行一次"ssh-copy-id"命令,都需依次输入yes,123456(root用户的密码)
ssh-copy-id -i /root/.ssh/id_rsa.pub master
ssh-copy-id -i /root/.ssh/id_rsa.pub slave1
ssh-copy-id -i /root/.ssh/id_rsa.pub slave2

3、验证

在master主机执行ssh登录操作,成功后可以执行exit,再执行下一个

bash 复制代码
ssh slave1
ssh slave2

五、配置时钟同步服务

1、master主机上执行vim /etc/ntp.conf,内容如下

bash 复制代码
restrict 192.168.0.0 mask 255.255.255.0 nomodify notrap
server 127.127.1.0
fudge 127.127.1.0 stratum 10

然后执行

bash 复制代码
systemctl start ntpd
systemctl enable ntpd

2、slave1,slave2上执行vim /etc/ntp.conf,内容如下

bash 复制代码
server master

然后执行

bash 复制代码
systemctl start ntpd
systemctl enable ntpd

六、启动Hadoop集群

1、配置hadoop环境变量

bash 复制代码
vim /etc/profile
bash 复制代码
# 在文件最后加下面的配置
export HADOOP_HOME=/usr/local/hadoop-3.3.6
export JAVA_HOME=/usr/java/jdk1.8.0_281-amd64
export PATH=$HADOOP_HOME/bin:$PATH:$JAVA_HOME/bin

然后,执行下面命令使其生效,master slave1 slave2均做此操作

bash 复制代码
source /etc/profile

2、格式化hadoop

在master主机上执行

bash 复制代码
hdfs namenode -format

3、启动hdfs和yarn

bash 复制代码
sbin/start-dfs.sh

sbin/start-yarn.sh

七、验证

浏览器打开hdfs和yarn的监控地址

如果想用域名访问地址,可以配置C:\Windows\System32\drivers\etc\hosts,内容如下

bash 复制代码
192.168.128.130 master master.centos.com
192.168.128.131 slave1 slave1.centos.com
192.168.128.132 slave2 slave2.centos.com

HDFS监控页面

YARN监控页面

相关推荐
计算机毕业编程指导师17 小时前
【Python毕设选题推荐】基于Spark的宫颈癌变光谱特征数据分析可视化系统源码 毕业设计 选题推荐 毕设选题 数据分析 机器学习
大数据·hadoop·python·计算机·spark·毕业设计·宫颈癌变
计算机毕业编程指导师1 天前
计算机毕设选题推荐:基于Hadoop与Spark的Steam游戏数据分析系统源码 毕业设计 选题推荐 毕设选题 数据分析 机器学习 深度学习
大数据·hadoop·python·计算机·spark·毕业设计·steam游戏
计算机毕业编程指导师1 天前
【计算机毕设选题推荐】基于Hadoop+Spark的白鹿抖音评论大数据分析与可视化系统源码 毕业设计 选题推荐 毕设选题 数据分析 机器学习 深度学习
大数据·hadoop·python·计算机·spark·毕业设计·抖音评论
计算机毕业编程指导师1 天前
大数据毕设怎么做?基于Hadoop的多源社交媒体心理健康情感分析与可视化系统从零到一指导 源码 毕业设计 选题推荐 毕设选题 数据分析 机器学习 深度学习
大数据·hadoop·计算机·数据分析·毕业设计·课程设计·媒体
计算机毕业编程指导师2 天前
Python大数据毕设:基于Hadoop的病毒式社交媒体趋势和参与度分析系统怎么做 源码 毕业设计 选题推荐 毕设选题 数据分析 机器学习
大数据·hadoop·python·计算机·毕业设计·课程设计·社交媒体
计算机毕业编程指导师2 天前
【计算机毕设推荐】基于Hadoop+Django的LLM多维度性能评估分析系统源码 毕业设计 选题推荐 毕设选题 数据分析 机器学习 深度学习
大数据·hadoop·python·django·毕业设计·课程设计·llm性能
卷毛迷你猪2 天前
快速实验篇(B12)异常流量与刷单识别(方法论演示)
大数据·hive·hadoop·数据挖掘·聚类
计算机毕业编程指导师2 天前
【Python毕设选题推荐】基于Hadoop+Django的奥斯卡奖获奖数据可视化分析系统源码 毕业设计 选题推荐 毕设选题 数据分析 机器学习 深度学习
大数据·hadoop·python·计算机·毕业设计·课程设计·奥斯卡奖
计算机毕业编程指导师2 天前
【大数据毕设选题】基于Spark的电信网络诈骗话术语义特征挖掘分析系统源码 毕业设计 选题推荐 数据分析 机器学习 深度学习
大数据·hadoop·python·spark·毕业设计·课程设计·网络诈骗
计算机毕业编程指导师2 天前
计算机大数据毕设怎么选?基于Spark的个体肥胖健康风险评估的数据分析与可视化系统带你通关 源码 毕业设计 选题推荐 毕设选题 数据分析 机器学习
大数据·hadoop·python·计算机·spark·毕业设计·肥胖风险