大数据环境搭建

目录

一:虚拟机:VirtualBox

二:Shell工具:MobaXterm

三:安装脚本

四:JDK和Hadoop

4.1:安装

4.2:启动

4.3:Hadoop可视化访问

4.4:关机


一:虚拟机:VirtualBox

VirtualBox-6.0.24-139119-Win

1.1:默认配置

1.2:导入3个node

1.3:启动三个node

(有的电脑可能启动失败可以看看:VirtualBox 不能为虚拟电脑打开一个新任务(Failed to get device handle and/or partition ID for 0000000001c5fb30 )-CSDN博客

二:Shell工具:MobaXterm

下载地址:
MobaXterm Xserver with SSH, telnet, RDP, VNC and X11 - Home Edition

shell工具连接三个虚拟机

三台机器地址分别是192.168.56.151、192.168.56.152​​​、192.168.56.153

账号root 密码123456

三:安装脚本

复制代码
git clone https://gitee.com/several-boats/playground.git
cd playground/
chmod +x playground.sh
./playground.sh install
source /etc/profile
cd ~

四:JDK和Hadoop

4.1:安装

复制代码
先把两个安装包(hadoop-3.3.6.tar.gz\jdk-8u191-linux-x64.tar.gz)用shell工具拖拽到/root下
复制代码
playground add jdk-8u191-linux-x64.tar.gz
playground add hadoop-3.3.6.tar.gz
playground init
复制代码
以上信息是否正确---y
是否安装JDK--yes
是否修改jdk信息--n
复制代码
source /etc/profile
java -version
playground config hadoop
复制代码
是否要更新-- y
安装包序列号---1(选Hadoop)
需要安装到哪些节点---node01,node02,node03
主节点---node01
复制代码
playground update config
playground install hadoop
source /etc/profile
复制代码
是否修改Hadoop安装信息--n
复制代码
source /etc/profile
hadoop namenode -format --force
cd ~

4.2:启动

复制代码
cd ~
start-all.sh

安装完后再对另两个机器进行source /etc/profile命令

4.3:Hadoop可视化访问

HDFS:

192.168.56.151:9870----Hadoop3

192.168.56.151:50070----Hadoop2

里面有一些值得看的信息Live Nodes表示存活的节点

Yarn:

192.168.56.151:8088

4.4:关机

复制代码
cd ~
stop-all.sh

点击virtualBox三个node,点击停止-正常关机

平常最好备份下

相关推荐
Sayai10 小时前
Hadoop 集群安全加固实战:YARN 未授权访问漏洞修复,firewalld 白名单 + Nginx 反向代理 Basic Auth 全流程
运维·hadoop·nginx·安全·网络安全
IT小小猪12 小时前
# Hadoop 3.3.6 完全分布式集群部署知识库
hadoop·分布式·eclipse
泡干脆面就番茄13 小时前
Hive入门:架构解析与安装部署实录
大数据·数据仓库·hive·hadoop·架构
yyk3332413 小时前
Hive架构
hive·hadoop·架构
计算机编程指导师13 小时前
计算机毕设选题:基于Spark+Django的水质多指标关联分析与可视化系统源码 毕业设计 选题推荐 数据分析 机器学习
大数据·hadoop·python·spark·毕业设计·课程设计·水质
计算机编程指导师13 小时前
【大数据毕设】Hadoop+Spark台北市住宅价格数据可视化分析系统源码 毕业设计 选题推荐 毕设选题 数据分析 机器学习
大数据·hadoop·python·spark·毕业设计·课程设计·住宅价格
计算机编程指导师1 天前
【计算机毕设推荐】基于Hadoop+Spark的公共交通运营数据分析与可视化系统源码 毕业设计 选题推荐 毕设选题 数据分析 机器学习
大数据·hadoop·python·计算机·数据分析·spark·交通
计算机编程指导师1 天前
【计算机毕设选题推荐】基于Hadoop的宫颈癌变进程光谱数据分析系统源码 毕业设计 选题推荐 毕设选题 数据分析 机器学习
大数据·hadoop·python·数据分析·spark·毕业设计·宫颈癌变
计算机编程指导师1 天前
【计算机毕设选题推荐】基于Hadoop+Spark的化妆品销售大数据分析系统源码 毕业设计 选题推荐 毕设选题 数据分析 机器学习
大数据·hadoop·python·spark·毕业设计·课程设计·化妆品
计算机编程指导师1 天前
计算机毕设选题推荐:Hadoop大数据下的个体肥胖健康风险评估与可视化系统源码 毕业设计 毕设选题 数据分析 机器学习
大数据·hadoop·python·spark·毕业设计·课程设计·肥胖健康风险