centos7安装hadoop3(下)

一、克隆虚拟机

1、将虚拟机master关机

2、克隆,选择完整克隆

克隆2次,分别保存为slave1,slave2

二、修改克隆后的虚拟机salve1

1、修改slave1的ifcfg-ens33文件的IPADDR

bash 复制代码
IPADDR=192.168.128.131

2、重启网络服务和查看IP地址

bash 复制代码
# 重启网络服务
systemctl restart network
# 查看IP地址
ip addr

3、修改slave1的主机名称

bash 复制代码
hostnamectl set-hostname slave1

4、重启

bash 复制代码
reboot

三、对slave2主机做二中的操作

四、主机互信配置

1、在master主机中执行,并一路回车

bash 复制代码
ssh-keygen -t rsa 

2、复制公钥到其他主机

bash 复制代码
# 每执行一次"ssh-copy-id"命令,都需依次输入yes,123456(root用户的密码)
ssh-copy-id -i /root/.ssh/id_rsa.pub master
ssh-copy-id -i /root/.ssh/id_rsa.pub slave1
ssh-copy-id -i /root/.ssh/id_rsa.pub slave2

3、验证

在master主机执行ssh登录操作,成功后可以执行exit,再执行下一个

bash 复制代码
ssh slave1
ssh slave2

五、配置时钟同步服务

1、master主机上执行vim /etc/ntp.conf,内容如下

bash 复制代码
restrict 192.168.0.0 mask 255.255.255.0 nomodify notrap
server 127.127.1.0
fudge 127.127.1.0 stratum 10

然后执行

bash 复制代码
systemctl start ntpd
systemctl enable ntpd

2、slave1,slave2上执行vim /etc/ntp.conf,内容如下

bash 复制代码
server master

然后执行

bash 复制代码
systemctl start ntpd
systemctl enable ntpd

六、启动Hadoop集群

1、配置hadoop环境变量

bash 复制代码
vim /etc/profile
bash 复制代码
# 在文件最后加下面的配置
export HADOOP_HOME=/usr/local/hadoop-3.3.6
export JAVA_HOME=/usr/java/jdk1.8.0_281-amd64
export PATH=$HADOOP_HOME/bin:$PATH:$JAVA_HOME/bin

然后,执行下面命令使其生效,master slave1 slave2均做此操作

bash 复制代码
source /etc/profile

2、格式化hadoop

在master主机上执行

bash 复制代码
hdfs namenode -format

3、启动hdfs和yarn

bash 复制代码
sbin/start-dfs.sh

sbin/start-yarn.sh

七、验证

浏览器打开hdfs和yarn的监控地址

如果想用域名访问地址,可以配置C:\Windows\System32\drivers\etc\hosts,内容如下

bash 复制代码
192.168.128.130 master master.centos.com
192.168.128.131 slave1 slave1.centos.com
192.168.128.132 slave2 slave2.centos.com

HDFS监控页面

YARN监控页面

相关推荐
武子康1 天前
大数据-263 实时数仓-Canal 增量订阅与消费原理:MySQL Binlog 数据同步实践
大数据·hadoop·后端
仗剑_走天涯1 天前
zookeeper 安装与配置
hadoop·zookeeper
zhixingheyi_tian1 天前
hdfs.c 之解析
c语言·hadoop·hdfs
武子康2 天前
大数据-262 实时数仓 - Canal 同步数据实战指南 实时统计
大数据·hadoop·后端
武子康3 天前
大数据-261 实时数仓-建设指南:从架构设计到业务落地 交易订单、订单产品、产品分类、商家店铺、地域组织表
大数据·hadoop·后端
J2虾虾4 天前
Hadoop入门
大数据·hadoop·分布式
橘子编程5 天前
Hive大数据实战指南:从入门到精通
大数据·hive·hadoop
仗剑_走天涯5 天前
hadoop 执行mr任务出现找不到主类或无法加载主类解决方案
hadoop·mr
橘子编程5 天前
Apache Hadoop知识全解析
大数据·hive·hadoop·apache
顧棟6 天前
HDFS2.X升级3.X案例与相关Issue
大数据·hadoop·hdfs