Ubuntu下部署Hadoop集群+Hive(二)

Hadoop集群搭建

准备环境

hadoop-3.3.6.tar.gz,jdk-8u421-linux-x64.tar.gz

根据自己的使用下载对的hadoop和jdk版本

hadoop下载地址:Apache Hadoop

JDK下载地址:Java Downloads | Oracle

在3台服务器上的/opt/目录下新建module和software文件夹,其中software文件夹用来存放软件包,module用来存放解压后的安装文件;

bash 复制代码
root@hadoopMaster:/opt# mkdir software
root@hadoopMaster:/opt# mkdir module

接下来就是Hadoop集群环境的部署:

参考尚硅谷大数据---搭建Hadoop集群---软件安装_尚硅谷hadoop集群配置-CSDN博客

这篇文章对应的课程是23_尚硅谷_Hadoop_入门_克隆三台虚拟机_哔哩哔哩_bilibili,其中的23节到34节教程,讲的比较详细,建议先快速过一下相关章节课程,然后对照来安装,基本没有问题;

其中,有几点注意:

1.课程中的三台主机,Hadoop102、Hadoop103、Hadoop104,对应的我的主机是HadoopMaster、HadoopSlave01和HadoopSlave02;

2.课程后面新建的为了方便查看各个服务器进程启动情况的jpsall.sh脚本,运行的时候可能会报:bash: jps: command not found;这种情况,需要加上jps的全路径,这样改写就可以: ssh $host "/opt/module/jdk1.8.0_421/bin/jps"。

相关推荐
NiceZack1 天前
Hadoop 部署全流程教程:从新装 CentOS 到伪分布式与完全分布式
hadoop·分布式·centos
@小匠1 天前
Flink + Iceberg 批量失败复盘:一次超时如何变成 Hive Metastore 锁泄漏
大数据·hive·flink
skywalk81632 天前
hive —— 多机 AI Agent 协同的任务总线:分布式,多节点同时运行,保障不会宕机
人工智能·hive·分布式
棣廷3 天前
初识Hive(2)
数据仓库·hive·hadoop
skywalk81633 天前
deepseek对skywalk163/hive 和hivecommons/hive 两个多机AI Agent任务调度项目的对比
人工智能·hive·agent
father_12274 天前
【ambari管理下hdp2.6.5升级hive1.2.1-2.1.0-2.3.3】
hive·hadoop·ambari
magic_kid_20104 天前
HDFS 故障复盘:千万级 block 导致 FBR 超过 128 MiB,DataNode 被判定为 dead
大数据·hadoop·hdfs·hadoop 故障
小刘在重生~5 天前
Servlet_day2 (上)|Servlet 整合 JDBC|请求转发 forward|Request 作用域
hive·hadoop·servlet
螺蛳粉 螺蛳粉5 天前
CDH第四篇:CDH 元数据库实战:MySQL 5.7.22 二进制安装 + 三库三账号授权全记录
hive·mysql5.7·centos7·元数据·cdh·oozie·数据库部署
chunyublog5 天前
FinalShell 远程连接 Hadoop 三节点集群教程
大数据·hadoop·分布式