安装Hadoop:Hadoop的单机模式、伪分布式模式——备赛笔记——2024全国职业院校技能大赛“大数据应用开发”赛项

前言

Hadoop包括三种安装模式:

  1. 单机模式:只在一台机器上运行,存储是采用本地文件系统,没有采用分布式文件系统HDFS;
  2. 伪分布式模式:存储采用分布式文件系统HDFS,但是,HDFS的名称节点和数据节点都在同一台机器上;
  3. 分布式模式:存储采用分布式文件系统HDFS,而且,HDFS的名称节点和数据节点位于不同机器上。

这篇笔记适合于原生 Hadoop3.1.3 ,主要参考了官方安装教程,步骤详细,辅以适当说明,相信按照步骤来,都能顺利安装并运行Hadoop 。另外有Hadoop安装配置简略版方便有基础的读者快速完成安装。此外,小北希望友友们能多去了解一些 Linux 的知识,以后出现问题时才能自行解决。

为了方便学习,请友友们利用Linux系统中自带的firefox浏览器打开本指南进行学习。

Hadoop安装文件,可以到Hadoop官网下载hadoop-3.1.3.tar.gz。

也可以直接点击这里从百度云盘下载软件(提取码:ziyu),进入百度网盘后,进入"软件"目录,找到hadoop-3.1.3.tar.gz文件下载到本地。

可以参考小北之前的两篇博客哇~

Hadoop安装笔记1单机/伪分布式配置_Hadoop3.1.3------备赛笔记------2024全国职业院校技能大赛"大数据应用开发"赛项------任务2:离线数据处理-CSDN博客https://blog.csdn.net/Zhiyilang/article/details/135236893?spm=1001.2014.3001.5501Hadoop安装笔记2单机/伪分布式配置_Hadoop3.1.3------备赛笔记------2024全国职业院校技能大赛"大数据应用开发"赛项------任务2:离线数据处理-CSDN博客https://blog.csdn.net/Zhiyilang/article/details/135276305?spm=1001.2014.3001.5501

本章中小北只讲了前面两种"单机"和"伪分布式",第三种"分布式"打算后续单独写一篇,因为这个也是搭建HADOOP的集群了,所以希望这些也能帮助到友友们~

一、下载安装文件

前提: 下载好hadoop的3.1.3的安装包 并用PTF传送hadoop用户下下载目录

1,请使用hadoop用户登录虚拟机,并打开一个终端,执行一下命令:

复制代码
 sudo tar -zxf ~/下载/hadoop-3.1.3.tar.gz -C /usr/local    # 解压到/usr/local中
 cd /usr/local/
 sudo mv ./hadoop-3.1.3/ ./hadoop      # 将文件夹名改为hadoop
 sudo chown -R hadoop ./hadoop       # 修改文件权限

2,输入一下命令检测Hadoop解压是否可以用,成功会显示其版本:

复制代码
cd /usr/local/hadoop
./bin/hadoop version
相关推荐
用户36105886261216 分钟前
SparkSQL 之 Hive On Spark 原理分析
大数据·spark
白色机械键盘27 分钟前
领域大模型微调数据集构建实战
大数据·人工智能
换个号退隐江湖i27 分钟前
LLM 调试日志刷屏怎么办?用 tee 边看边存
linux
DYWorker0011 小时前
搭建嵌入式Linux虚拟机开发环境
linux
weipt1 小时前
从ollama到llama.cpp
linux·服务器·llama
加油码1 小时前
动静态库的链接底层原理(进阶版)
linux·c++
东莞和裕包装1 小时前
如何管控广州定制纸箱生产中的啤切精度与印刷色差质量问题
大数据·运维·网络·人工智能
GGMM7892 小时前
VX4B600100 控制板全解析:施耐德 ATV630 变频器核心控制单元详解
笔记·变频器·变频器维修
时下握今2 小时前
CDA一级认证|三大基础分析范式怎么理解?分类/链式/相关范式详解
大数据
H_oRIZoN_2 小时前
Linux入门DAY23(C语言树形结构)
linux·c语言·数据结构