centos7安装hadoop3(下)

一、克隆虚拟机

1、将虚拟机master关机

2、克隆,选择完整克隆

克隆2次,分别保存为slave1,slave2

二、修改克隆后的虚拟机salve1

1、修改slave1的ifcfg-ens33文件的IPADDR

bash 复制代码
IPADDR=192.168.128.131

2、重启网络服务和查看IP地址

bash 复制代码
# 重启网络服务
systemctl restart network
# 查看IP地址
ip addr

3、修改slave1的主机名称

bash 复制代码
hostnamectl set-hostname slave1

4、重启

bash 复制代码
reboot

三、对slave2主机做二中的操作

四、主机互信配置

1、在master主机中执行,并一路回车

bash 复制代码
ssh-keygen -t rsa 

2、复制公钥到其他主机

bash 复制代码
# 每执行一次"ssh-copy-id"命令,都需依次输入yes,123456(root用户的密码)
ssh-copy-id -i /root/.ssh/id_rsa.pub master
ssh-copy-id -i /root/.ssh/id_rsa.pub slave1
ssh-copy-id -i /root/.ssh/id_rsa.pub slave2

3、验证

在master主机执行ssh登录操作,成功后可以执行exit,再执行下一个

bash 复制代码
ssh slave1
ssh slave2

五、配置时钟同步服务

1、master主机上执行vim /etc/ntp.conf,内容如下

bash 复制代码
restrict 192.168.0.0 mask 255.255.255.0 nomodify notrap
server 127.127.1.0
fudge 127.127.1.0 stratum 10

然后执行

bash 复制代码
systemctl start ntpd
systemctl enable ntpd

2、slave1,slave2上执行vim /etc/ntp.conf,内容如下

bash 复制代码
server master

然后执行

bash 复制代码
systemctl start ntpd
systemctl enable ntpd

六、启动Hadoop集群

1、配置hadoop环境变量

bash 复制代码
vim /etc/profile
bash 复制代码
# 在文件最后加下面的配置
export HADOOP_HOME=/usr/local/hadoop-3.3.6
export JAVA_HOME=/usr/java/jdk1.8.0_281-amd64
export PATH=$HADOOP_HOME/bin:$PATH:$JAVA_HOME/bin

然后,执行下面命令使其生效,master slave1 slave2均做此操作

bash 复制代码
source /etc/profile

2、格式化hadoop

在master主机上执行

bash 复制代码
hdfs namenode -format

3、启动hdfs和yarn

bash 复制代码
sbin/start-dfs.sh

sbin/start-yarn.sh

七、验证

浏览器打开hdfs和yarn的监控地址

如果想用域名访问地址,可以配置C:\Windows\System32\drivers\etc\hosts,内容如下

bash 复制代码
192.168.128.130 master master.centos.com
192.168.128.131 slave1 slave1.centos.com
192.168.128.132 slave2 slave2.centos.com

HDFS监控页面

YARN监控页面

相关推荐
Francek Chen11 天前
【大数据处理与分析】数据仓库Hive:09 Hive 编程实践
大数据·数据仓库·hive·hadoop·sql
茶海棠14 天前
Hadoop+zookeeper+HBase+Kafka集群搭建全流程
hadoop·zookeeper·kafka·hbase
Gl�ria15 天前
Hadoop 速刷:HDFS / MR / YARN / Spark / Hive
hadoop·hdfs·mr
FserSuN15 天前
Hive 分区表存储与查询优化学习总结
hive·hadoop·学习
测试盐16 天前
spark作业日志定位过程
java·hadoop·spark
NiceZack17 天前
Hadoop 部署全流程教程:从新装 CentOS 到伪分布式与完全分布式
hadoop·分布式·centos
棣廷19 天前
初识Hive(2)
数据仓库·hive·hadoop
father_122720 天前
【ambari管理下hdp2.6.5升级hive1.2.1-2.1.0-2.3.3】
hive·hadoop·ambari
magic_kid_201020 天前
HDFS 故障复盘:千万级 block 导致 FBR 超过 128 MiB,DataNode 被判定为 dead
大数据·hadoop·hdfs·hadoop 故障
小刘在重生~20 天前
Servlet_day2 (上)|Servlet 整合 JDBC|请求转发 forward|Request 作用域
hive·hadoop·servlet