Hadoop-01-基础环境搭建 超详细 Hadoop Java 环境变量 3节点云服务器 2C4G XML 集群配置 HDFS Yarn MapRedece

背景介绍

这里是三台公网云服务器,每台 2C4G,搭建一个Hadoop的学习环境,供我学习。

之前已经在 VM 虚拟机上搭建过一次,但是没留下笔记,这次趁着前几天薅羊毛的3台机器,赶紧尝试在公网上搭建体验一下。

注意,如果你和我一样,打算用公网部署,那一定要做好防火墙策略,避免不必要的麻烦!!!
注意,如果你和我一样,打算用公网部署,那一定要做好防火墙策略,避免不必要的麻烦!!!
注意,如果你和我一样,打算用公网部署,那一定要做好防火墙策略,避免不必要的麻烦!!!

请大家都以学习为目的,也请不要对我的服务进行嗅探或者攻击!!!
请大家都以学习为目的,也请不要对我的服务进行嗅探或者攻击!!!
请大家都以学习为目的,也请不要对我的服务进行嗅探或者攻击!!!

但是有一台公网服务器我还运行着别的服务,比如前几天发的:autodl-keeper 自己写的小工具,防止AutoDL机器过期的。还跑着别的Web服务,所以只能挤出一台 2C2G 的机器。那我的配置如下了:

  • 2C4G 编号 h121
  • 2C4G 编号 h122
  • 2C2G 编号 h123 (后续如果服务器多出来,我还有好几台别的,到时候换一下)

Java 环境

apt 安装

shell 复制代码
sudo apt install openjdk-8-jdk

下载安装

这种就是大家常用的方式安装,我选择的是 apt 的方式

shell 复制代码
# JDK8:https://www.oracle.com/cn/java/technologies/downloads/#java8-linux

验证环境

shell 复制代码
java -version

环境变量

虽然 apt 安装完之后,是有了环境变量,但是为了后续 Hadoop 能够正常的工作,我们还需要手动去配置一下。

找到你目前的Java目录

shell 复制代码
readlink -f $(which java)

修改配置文件

shell 复制代码
sudo vim /etc/profile

**写入如下内容: **

shell 复制代码
# java 
export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64
export PATH=$JAVA_HOME/bin:$PATH

退出保存,并刷新环境变量

shell 复制代码
source /etc/profile

此时,重新测试环境,如果没有问题,恭喜你一切顺利!

Hadoop环境

创建目录

现在根目录下创建

shell 复制代码
sudo mkdir /opt/software
sudo mkdir /opt/servers

创建完毕后,进入 软件的目录。

shell 复制代码
cd /opt/software

下载文件

我们直接使用 wget 工具来帮助我们下载:

shell 复制代码
sudo wget -O hadoop-2.9.2.tar.gz https://archive.apache.org/dist/hadoop/common/hadoop-2.9.2/hadoop-2.9.2.tar.gz

解压文件

将文件解压到 servers 目录下

shell 复制代码
sudo tar -zxvf hadoop-2.9.2.tar.gz -C /opt/servers

我们查看当前的目录:

环境变量

打开环境配置

shell 复制代码
sudo vim /etc/profile

在最底部加入如下的内容:

shell 复制代码
# HADOOP_HOME
export HADOOP_HOME=/opt/servers/hadoop-2.9.2
export PATH=$PATH:$HADOOP_HOME/bin
export PATH=$PATH:$HADOOP_HOME/sbin

刷新环境变量

shell 复制代码
source /etc/profile

验证环境

shell 复制代码
hadoop version

如果出现如图的内容,那么恭喜你!已经完成了初步的Java和Hadoop的环境配置!

相关推荐
NG4771 分钟前
【软件设计与体系结构】-策略设计模式
java·设计模式·软件工程
隔窗听雨眠2 分钟前
从追赶者到定义者:中国BI如何借助AI实现弯道超车
大数据·人工智能
cspttty8 分钟前
二本软件工程专业好就业吗?毕业后能做哪些岗位
大数据·软件工程
智圣新创018 分钟前
高校全域治理决策效能升级 智圣新创决策中台落地实操与行业趋势研判
大数据·人工智能·物联网
pt104318 分钟前
思科网络自动化-API常用数据编码格式(JSON/XML/YAML)课程与实践
linux·服务器·网络
程序员天天困35 分钟前
优雅记录操作日志:从注解到 SpEL 的全链路实践与开源方案对比
java·后端
战血石LoveYY1 小时前
Integer类型超限,导致数据异常
java·算法
2401_859506241 小时前
玉石加工全链路技术变革:五大维度拆解材质改性、精密雕刻与智能溯源
大数据·人工智能
ZXXstarstar1 小时前
2026年电池安全使用年限的量化决策:什么时间到期最需要替换?
linux·运维·服务器·电池
网络小白不怕黑1 小时前
httpd监控
linux·运维·服务器