ubuntu系统安装hadoop

Hadoop

分布式计算平台,核心是分布式文件系统HDFS

ubantu下

安装jdk

Shell 复制代码
wget https://repo.huaweicloud.com/openjdk/18.0.1.1/openjdk-18.0.1.1_linux-aarch64_bin.tar.gz
tar -zxvf openjdk-18.0.1.1_linux-aarch64_bin.tar.gz
mv jdk-18.0.1.1/ /usr/java18
echo 'export JAVA_HOME=/usr/java18' >> /etc/profile
echo 'export PATH=$PATH:$JAVA_HOME/bin' >> /etc/profile
source /etc/profile
java -version

这里手残选用了jdk18的版本,本来以为是jdk1.8的

安装hadoop

hadoop的安装包在清华云镜像下载的

Shell 复制代码
tar -zxvf hadoop-3.3.4.tar.gz
ll
mv hadoop-3.3.4 /opt/hadoop
echo "export JAVA_HOME=/usr/java18" >> /opt/hadoop/etc/hadoop/yarn-env.sh
echo "export JAVA_HOME=/usr/java18" >> /opt/hadoop/etc/hadoop/hadoop-env.sh
hadoop version

配置Hadoop

  1. 修改Hadoop配置文件 core-site.xml。
Shell 复制代码
vim /opt/hadoop/etc/hadoop/core-site.xml

在节点内插入如下内容。

Shell 复制代码
 <property>
    <name>hadoop.tmp.dir</name>
    <value>file:/opt/hadoop/tmp</value>
    <description>location to store temporary files</description>
</property>
<property>
    <name>fs.defaultFS</name>
    <value>hdfs://localhost:9000</value>
</property>
  1. 修改Hadoop配置文件 hdfs-site.xml。
Shell 复制代码
vim /opt/hadoop/etc/hadoop/hdfs-site.xml

在节点内插入如下内容。

Shell 复制代码
<property>
    <name>dfs.replication</name>
    <value>1</value>
</property>
<property>
    <name>dfs.namenode.name.dir</name>
    <value>file:/opt/hadoop/tmp/dfs/name</value>
</property>
<property>
    <name>dfs.datanode.data.dir</name>
    <value>file:/opt/hadoop/tmp/dfs/data</value>
</property>

配置SSH免密登录

执行以下命令,创建公钥和私钥。

Shell 复制代码
ssh-keygen -t rsa

将公钥添加到authorized_keys文件中。

Shell 复制代码
cd ~
cd .ssh
cat id_rsa.pub >> authorized_keys

将hadoop添加到环境变量中。

Shell 复制代码
vi /etc/profile

export HDFS_NAMENODE_USER=root
export HDFS_DATANODE_USER=root
export HDFS_SECONDARYNAMENODE_USER=root
export YARN_RESOURCEMANAGER_USER=root
export YARN_NODEMANAGER_USER=root

source /etc/profile

启动Hadoop

  1. 初始化****namenode
PowerShell 复制代码
hadoop namenode -format
  1. 启动****Hadoop
PowerShell 复制代码
start-dfs.sh

可以看到的web页面:

以上就是安装hadoop的全部过程,推荐第二种安装方式。

shigen一起,每天不一样!

相关推荐
秃头菜狗7 分钟前
八、安装 Hadoop
大数据·hadoop·分布式
teacher伟大光荣且正确1 小时前
Linux 下编译openssl
linux·运维·服务器
dlz08361 小时前
--group-start/--group-end 能不能解决 OpenSSL 1.0 vs 1.1 的优先级问题?
linux·运维·服务器·软件需求
小池先生2 小时前
activemq延迟消息变成实时收到了?
linux·数据库·activemq
tryCbest3 小时前
Linux系统下安装使用Redis
linux·运维·redis
AuroBreeze4 小时前
xv6-2023 - primes Lab
linux·运维·服务器
DIY机器人工房4 小时前
NAT 模式、命令行版、桥接模式方式给ubuntu虚拟机配网步骤:
linux·网络协议·ubuntu·嵌入式·桥接模式·diy机器人工房
wdfk_prog5 小时前
[Linux]学习笔记系列 -- lib/sort.c 通用的排序库(Generic Sorting Library) 为内核提供标准的、高效的排序功能
linux·运维·c语言·笔记·stm32·学习·bug
黑马金牌编程5 小时前
简易分析慢 SQL 的流程和方法
linux·数据库·mysql·性能优化·性能分析·慢日志
什么半岛铁盒6 小时前
C++项目:仿muduo库高并发服务器---------LoopThreadPool模块和TcpServer模块的实现
linux·服务器·c++·mysql·ubuntu