centos7安装hadoop3(下)

一、克隆虚拟机

1、将虚拟机master关机

2、克隆,选择完整克隆

克隆2次,分别保存为slave1,slave2

二、修改克隆后的虚拟机salve1

1、修改slave1的ifcfg-ens33文件的IPADDR

bash 复制代码
IPADDR=192.168.128.131

2、重启网络服务和查看IP地址

bash 复制代码
# 重启网络服务
systemctl restart network
# 查看IP地址
ip addr

3、修改slave1的主机名称

bash 复制代码
hostnamectl set-hostname slave1

4、重启

bash 复制代码
reboot

三、对slave2主机做二中的操作

四、主机互信配置

1、在master主机中执行,并一路回车

bash 复制代码
ssh-keygen -t rsa 

2、复制公钥到其他主机

bash 复制代码
# 每执行一次"ssh-copy-id"命令,都需依次输入yes,123456(root用户的密码)
ssh-copy-id -i /root/.ssh/id_rsa.pub master
ssh-copy-id -i /root/.ssh/id_rsa.pub slave1
ssh-copy-id -i /root/.ssh/id_rsa.pub slave2

3、验证

在master主机执行ssh登录操作,成功后可以执行exit,再执行下一个

bash 复制代码
ssh slave1
ssh slave2

五、配置时钟同步服务

1、master主机上执行vim /etc/ntp.conf,内容如下

bash 复制代码
restrict 192.168.0.0 mask 255.255.255.0 nomodify notrap
server 127.127.1.0
fudge 127.127.1.0 stratum 10

然后执行

bash 复制代码
systemctl start ntpd
systemctl enable ntpd

2、slave1,slave2上执行vim /etc/ntp.conf,内容如下

bash 复制代码
server master

然后执行

bash 复制代码
systemctl start ntpd
systemctl enable ntpd

六、启动Hadoop集群

1、配置hadoop环境变量

bash 复制代码
vim /etc/profile
bash 复制代码
# 在文件最后加下面的配置
export HADOOP_HOME=/usr/local/hadoop-3.3.6
export JAVA_HOME=/usr/java/jdk1.8.0_281-amd64
export PATH=$HADOOP_HOME/bin:$PATH:$JAVA_HOME/bin

然后,执行下面命令使其生效,master slave1 slave2均做此操作

bash 复制代码
source /etc/profile

2、格式化hadoop

在master主机上执行

bash 复制代码
hdfs namenode -format

3、启动hdfs和yarn

bash 复制代码
sbin/start-dfs.sh

sbin/start-yarn.sh

七、验证

浏览器打开hdfs和yarn的监控地址

如果想用域名访问地址,可以配置C:\Windows\System32\drivers\etc\hosts,内容如下

bash 复制代码
192.168.128.130 master master.centos.com
192.168.128.131 slave1 slave1.centos.com
192.168.128.132 slave2 slave2.centos.com

HDFS监控页面

YARN监控页面

相关推荐
BYSJMG1 天前
计算机毕业设计选题推荐|【基于大数据的城市噪音数据可视化分析】Spark+K-Means+FP-Growth实战
大数据·hadoop·信息可视化·spark·课程设计
牛奶咖啡133 天前
大数据Hadoop运维应用实践——Hadoop平台常见问题与故障汇总、系统调优、网络规划与硬件存储选型
大数据·hadoop·hadoop集群操作系统调优·hadoop集群运维问题汇总·hadoop集群硬件规划·大数据平台网络规划·大数据平台硬件存储选型
雨晨源码(同名B站)3 天前
基于Python的网易云音乐评论数据情感化分析系统 音乐爬虫信息可视化 |SnowNLP评论情感分析
开发语言·hadoop·爬虫·python·信息可视化·毕业设计
赤土 炙焱4 天前
hiveserver2启动失败,磁盘满了
hive·hadoop
Francek Chen4 天前
【大数据处理与分析】数据仓库Hive:02 数据湖
大数据·数据仓库·hive·hadoop·分布式·数据分析
Blossom i6 天前
Python+spark2.0+Hadoop机器学习与大数据实战第十一章:Python Spark的集成开发环境
大数据·hadoop·spark
我要用代码向我喜欢的女孩表白7 天前
hdfs获取所有路径大小的脚本
大数据·hadoop·hdfs
Waay7 天前
什么是HBase?它和Hive有什么区别?
大数据·数据库·hive·hadoop·hdfs·hbase
fastjson_8 天前
Hadoop之Yarn
大数据·hadoop·npm
fastjson_8 天前
Hive的介绍和使用
数据仓库·hive·hadoop