Hadoop高可用集群搭建

在三台虚拟机上搭建具有两个NameNode节点和两个ResourceManager节点的Hadoop高可用集群。步骤如下:

1.在3台虚拟机中的/export/servers目录中创建目录hadoop-HA,用于存放部署Hadoop高可用集群的Hadoop安装目录,命令如下:

2.安装Hadoop,以解压缩的方式安装Hadoop,将虚拟机liumengting1中/export/software目录中存放的Hadoop安装包安装到/export/servers/hadoop-HA目录。命令如下:

3.修改系统环境变量,将HADOOP_HOME变量的值修改为

Hadoop高可用集群的Hadoop安装目录,命令如下:

4.为了让系统环境变量文件中修改的内容生效,执行如下命令初始化系统环境变量,使修改的系统环境变量生效:

5.验证系统环境变量是否修改成功,执行如下命令,查看当前虚拟机中Hadoop的版本号

6.进入到Hadoop的安装目录下的etc/hadoop目录,修改hadoop-env.sh文件,修改内容如下:

7.修改core-site.xml文件,添加内容如下:

8.执行vi hdfs-site.xml命令,对该文件进行修改,添加内容如下:

9.执行vi mapres-site.xml命令,对该文件进行修改,添加内容如下:

  1. 执行vi yarn-site.xml命令,对该文件进行修改,添加内容如下:

11.执行vi workers命令,将配置文件中workers的内容修改如下内容:

12.分发Hadoop安装目录,将liumengting1的/export/servers/hadoop-HA/hadoop-3.3.4目录分发至虚拟机liumengting2、liumengting3的/export/servers/hadoop-HA目录,命令如下:

13.分发系统环境变量文件,使用scp命令将虚拟机liumengting1的系统环境变量文件profile分发至虚拟机liumengting2、liumengting3的/etc目录,具体命令如下:

14.为了让虚拟机liumengting2、liumengting3中系统环境变量文件中的修改的内容生效,执行如下命令初始化系统环境变量,使修改的系统环境变量生效:

15.开启完全分布模式部署的ZooKeeper

  1. 启动JournalNode,Hadoop高可用集群在进行格式化HDFS文件系统时会向Qurom Journal Manager写入EditLog,因此在格式化HDFS文件系统之前,需要分别在虚拟机Hadoop1、Hadoop2和Hadoop3中执行如下命令启动JournalNode:
  1. 启动JournalNode后,分别在2台虚拟机上执行jps命令,查看JournalNode是否成功开启,若出现JournalNode进程,则说明启动成功,具体效果如下:

18.格式化HDFS文件系统,命令如下:

19.同步NameNode,将虚拟机liumengting1存储FSImage文件的目录分发至虚拟机liumengting2存储FSImage文件的目录,在虚拟机liumengting中执行如下命令:

20.格式化ZKFC,命令如下:

21.启动HDFS,命令如下:

22.在3台虚拟机分别执行jps命令,查看3台虚拟机中运行的进程,如下图所示:

33.启动YARN

  1. 在3台虚拟机分别执行jps命令,查看3台虚拟机中运行的进程,如下图所示:

35.查看NameNode状态信息,访问如下两个地址,虚拟机liumengting1是standby状态,虚拟机liumengting2是active状态,效果如下所示:

36.查看ResourceManager,,访问如下两个地址,效果如下图所示:

37.测试主备切换,在虚拟机liumengting2中关闭状态为active的NameNode和ResourceManager,命令如下所示:

38.再次进行这四个地址的访问,效果如下:

1.在3台虚拟机中的/export/servers目录中创建目录hadoop-HA,用于存放部署Hadoop高可用集群的Hadoop安装目录,命令如下:

2.安装Hadoop,以解压缩的方式安装Hadoop,将虚拟机liumengting1中/export/software目录中存放的Hadoop安装包安装到/export/servers/hadoop-HA目录。命令如下:

3.修改系统环境变量,将HADOOP_HOME变量的值修改为

Hadoop高可用集群的Hadoop安装目录,命令如下:

4.为了让系统环境变量文件中修改的内容生效,执行如下命令初始化系统环境变量,使修改的系统环境变量生效:

5.验证系统环境变量是否修改成功,执行如下命令,查看当前虚拟机中Hadoop的版本号

6.进入到Hadoop的安装目录下的etc/hadoop目录,修改hadoop-env.sh文件,修改内容如下:

7.修改core-site.xml文件,添加内容如下:

8.执行vi hdfs-site.xml命令,对该文件进行修改,添加内容如下:

9.执行vi mapres-site.xml命令,对该文件进行修改,添加内容如下:

  1. 执行vi yarn-site.xml命令,对该文件进行修改,添加内容如下:

11.执行vi workers命令,将配置文件中workers的内容修改如下内容:

12.分发Hadoop安装目录,将liumengting1的/export/servers/hadoop-HA/hadoop-3.3.4目录分发至虚拟机liumengting2、liumengting3的/export/servers/hadoop-HA目录,命令如下:

13.分发系统环境变量文件,使用scp命令将虚拟机liumengting1的系统环境变量文件profile分发至虚拟机liumengting2、liumengting3的/etc目录,具体命令如下:

14.为了让虚拟机liumengting2、liumengting3中系统环境变量文件中的修改的内容生效,执行如下命令初始化系统环境变量,使修改的系统环境变量生效:

15.开启完全分布模式部署的ZooKeeper

  1. 启动JournalNode,Hadoop高可用集群在进行格式化HDFS文件系统时会向Qurom Journal Manager写入EditLog,因此在格式化HDFS文件系统之前,需要分别在虚拟机Hadoop1、Hadoop2和Hadoop3中执行如下命令启动JournalNode:
  1. 启动JournalNode后,分别在2台虚拟机上执行jps命令,查看JournalNode是否成功开启,若出现JournalNode进程,则说明启动成功,具体效果如下:

18.格式化HDFS文件系统,命令如下:

19.同步NameNode,将虚拟机liumengting1存储FSImage文件的目录分发至虚拟机liumengting2存储FSImage文件的目录,在虚拟机liumengting中执行如下命令:

20.格式化ZKFC,命令如下:

21.启动HDFS,命令如下:

22.在3台虚拟机分别执行jps命令,查看3台虚拟机中运行的进程,如下图所示:

33.启动YARN

  1. 在3台虚拟机分别执行jps命令,查看3台虚拟机中运行的进程,如下图所示:

35.查看NameNode状态信息,访问如下两个地址,虚拟机liumengting1是standby状态,虚拟机liumengting2是active状态,效果如下所示:

36.查看ResourceManager,,访问如下两个地址,效果如下图所示:

37.测试主备切换,在虚拟机liumengting2中关闭状态为active的NameNode和ResourceManager,命令如下所示:

38.再次进行这四个地址的访问,效果如下:

相关推荐
CRMEB系统商城几秒前
家电零售的供应商协同与物流提效
java·开发语言·人工智能·小程序·1024程序员节
jason.zeng@15022075 分钟前
Nginx 配置详解(静态 HTML、下载目录、API 反向代理三套场景)
java·vue.js·1024程序员节
鬼手点金6 分钟前
从 API 消息到模型 Token:Chat Template
java·前端·javascript·数据库·人工智能·深度学习·1024程序员节
Shadow(⊙o⊙)10 分钟前
LangChain 自定义工具全解析:从 @tool 到 bind_tools 的完整调用链路
java·服务器·前端·1024程序员节
Pointer Pursuit11 分钟前
Linux环境变量
linux·服务器·c语言·链表·1024程序员节
王大师王文峰14 分钟前
Java+AI 面试题(二):业务场景设计 10 例【客服机器人、合同审查、Text2SQL、告警降噪、成本优化】场景题答法与追问链路
java·开发语言·人工智能
星恒随风24 分钟前
Linux网络编程基础(二):彻底理解局域网通信、MAC与IP地址、数据封装、端口号、网络字节序及Socket接口
linux·网络·笔记·学习·tcp/ip·1024程序员节
CHHH_HHH40 分钟前
【Linux网络篇】初识网络与Socket编程基础
linux·服务器·c语言·开发语言·网络·后端·1024程序员节
弦儿41 分钟前
后端 Web 实战:员工管理(新增员工 + 事务管理 + 文件上传)
java·后端
郭涤生1 小时前
Jetson Orin 启动链
linux·jetson