linux安装hadoop详细步骤

以下是在Linux系统上安装Hadoop的详细步骤:

  1. 下载Hadoop文件

    在Hadoop官方网站上下载最新的稳定版本的Hadoop文件。下载地址:https://hadoop.apache.org/releases.html

  2. 解压Hadoop文件

    打开终端,使用以下命令将下载的Hadoop文件解压到指定目录:

    复制代码
    tar -xzvf hadoop-X.X.X.tar.gz -C /usr/local/
  3. 配置环境变量

    打开终端,使用以下命令打开配置文件:

    复制代码
    sudo nano ~/.bashrc

    在配置文件里添加以下内容:

    复制代码
    # Hadoop相关路径配置
    export HADOOP_HOME=/usr/local/hadoop-X.X.X
    export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
    export HADOOP_MAPRED_HOME=$HADOOP_HOME
    export HADOOP_COMMON_HOME=$HADOOP_HOME
    export HADOOP_HDFS_HOME=$HADOOP_HOME
    export YARN_HOME=$HADOOP_HOME

    保存并关闭配置文件,然后运行以下命令使配置生效:

    复制代码
    source ~/.bashrc
  4. 配置Hadoop

    进入Hadoop安装目录,并编辑配置文件:

    复制代码
    cd /usr/local/hadoop-X.X.X/etc/hadoop/
    sudo nano hadoop-env.sh

    将以下代码行:

    复制代码
    export JAVA_HOME=${JAVA_HOME}

    修改为:

    复制代码
    export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64

    保存并关闭文件。

  5. 配置Hadoop集群

    打开core-site.xml文件:

    复制代码
    sudo nano core-site.xml

    在<configuration>和</configuration>之间添加以下内容:

    复制代码
    <property>
      <name>fs.defaultFS</name>
      <value>hdfs://localhost:9000</value>
    </property>
    <property>
      <name>hadoop.tmp.dir</name>
      <value>/usr/local/hadoop-X.X.X/tmp</value>
    </property>

    保存并关闭文件。

  6. 配置HDFS

    打开hdfs-site.xml文件:

    复制代码
    sudo nano hdfs-site.xml

    在<configuration>和</configuration>之间添加以下内容:

    复制代码
    <property>
      <name>dfs.replication</name>
      <value>1</value>
    </property>
    <property>
      <name>dfs.namenode.name.dir</name>
      <value>file:/usr/local/hadoop-X.X.X/hadoop_data/hdfs/namenode</value>
    </property>
    <property>
      <name>dfs.datanode.data.dir</name>
      <value>file:/usr/local/hadoop-X.X.X/hadoop_data/hdfs/datanode</value>
    </property>

    保存并关闭文件。

  7. 配置YARN

    打开yarn-site.xml文件:

    复制代码
    sudo nano yarn-site.xml

    在<configuration>和</configuration>之间添加以下内容:

    复制代码
    <property>
      <name>yarn.nodemanager.aux-services</name>
      <value>mapreduce_shuffle</value>
    </property>
    <property>
      <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
      <value>org.apache.hadoop.mapred.ShuffleHandler</value>
    </property>
    <property>
      <name>yarn.resourcemanager.hostname</name>
      <value>localhost</value>
    </property>

    保存并关闭文件。

  8. 格式化Hadoop文件系统

    运行以下命令:

    复制代码
    hdfs namenode -format
  9. 启动Hadoop集群

    运行以下命令:

    复制代码
    start-dfs.sh
    start-yarn.sh

    您可以使用以下命令检查Hadoop是否成功启动:

    复制代码
    jps

    如果一切正常,应该能够看到NameNode、DataNode、ResourceManager和NodeManager等进程。

现在,Hadoop已经成功安装在您的Linux系统上。

相关推荐
kkkkkkkkkk_Z26 分钟前
学嵌入式和Linux应用编程|学习日记:UDP协议与Wireshark抓包学习笔记
linux·笔记·学习
Allstar_4340 分钟前
全星研发项目管理APQP系统支持本地/私有云,开放API对接ERP/MES/PLM/OA,分级权限、版本追溯、ECN闭环,低代码配置,便于研发质量一体化扩展
运维
嵌入式小能手1 小时前
飞凌嵌入式ElfBoard-Shell编程应用实例-提取字符并设置rtc时间
linux
刃神太酷啦1 小时前
Redis 核心进阶:哨兵、集群、缓存问题与分布式锁详解----《Hello Redis!》(6)
linux·c语言·数据库·c++·redis·分布式·缓存
大卡片1 小时前
LCD相关知识
linux
colourmind1 小时前
K3S+Hami+Higress+Vip(nginx+keepalived)搭建云原生高可用的大模型部署平台
运维·nginx·云原生
闲云野鹤在人间1 小时前
Docker入门|第3章 镜像详解
linux·网络·docker·容器·centos·云计算·php
小卿噢1 小时前
malloc 成功 ≠ 你有内存:一次把 OOM 从头测到尾
linux·后端
团子股股东峥哥1 小时前
day38-RHEL-管理存储堆栈
linux·运维·服务器
工业HMI实战笔记2 小时前
【拯救HMI】:自动化对外输出新范式:从设备出口到 “技术 + 服务” 全链条交付
运维·自动化