详细教程-Linux上安装单机版的Hadoop

1、上传Hadoop安装包至linux并解压

bash 复制代码
tar -zxvf hadoop-2.6.0-cdh5.15.2.tar.gz

安装包:

链接:https://pan.baidu.com/s/1u59OLTJctKmm9YVWr_F-Cg

提取码:0pfj

2、配置免密码登录

生成秘钥:

bash 复制代码
ssh-keygen -t rsa -P ''


将秘钥写入认证文件:

bash 复制代码
cd ~/.ssh
cat id_rsa.pub >> ~/.ssh/authorized_keys

修改认证文件权限:

bash 复制代码
chmod 600 ~/.ssh/authorized_keys

3、配置环境变量

将 Hadoop 加入环境变量 /etc/profile :

bash 复制代码
vi /etc/profile

4、修改Hadoop配置文件

1 ) 修改hadoop-env.sh 文件

bash 复制代码
vi /usr/local/hadoop-2.6.0-cdh5.15.2/etc/hadoop/hadoop-env.sh

修改 JAVA_HOME :(这里要改成你自己linux中的jdk路径)

bash 复制代码
export JAVA_HOME=/usr/local/jdk1.8.0_181

2 )修改 core-site.xml 文件

XML 复制代码
<configuration>
        <property>
                <name>fs.defaultFS</name>
                <value>hdfs://lcc:9090</value>
        </property>
</configuration>
  1. 修改 hdfs-site.xml 文件
XML 复制代码
<configuration>
        <property>
                <name>dfs.replication</name>
                <value>1</value>
        </property>
        <property>
                <name>hadoop.tmp.dir</name>
                <value>/usr/local/hadoop-2.6.0-cdh5.15.2/tmp</value>
        </property>
</configuration>
  1. 修改mapred-site.xml文件
bash 复制代码
cp mapred-site.xml.template mapred-site.xml
vi mapred-site.xml
XML 复制代码
<configuration>
        <property>
                <name>yarn.nodemanager.aux-services</name>
                <value>mapreduce_shuffle</value>
        </property>
</configuration>

5 )修改 slaves 文件

bash 复制代码
vi slaves

改成上面的 lcc(这里就是你的一个主机名,注意要在hosts文件中配置好 ip地址 主机名)
这里配置的是单节点, 指向本机主机名称。
6)修改yarn-site.xml

XML 复制代码
<configuration>
        <property>
                <name>mapreduce.framework.name</name>
                <value>yarn</value>
        </property>
</configuration>

5、启动Hadoop服务

进入到sbin目录

bash 复制代码
cd /usr/local/hadoop-2.6.0-cdh5.15.2/sbin/

执行启动脚本

bash 复制代码
./start-all.sh

上传一个文件, 用于测试:

XML 复制代码
hdfs dfs -put /usr/local/hadoop-2.6.0-cdh5.15.2/etc/hadoop/hadoop-env.sh /

如果遇到如下报错:

请执行以下命令解决

再次重新执行hdfs上传即可

6、访问验证

至此Hadoop单机版安装完毕

相关推荐
YH_DevJourney19 分钟前
Linux-C/C++《C/9、信号:基础》(基本概念、信号分类、信号传递等)
linux·c语言·c++
千墨42 分钟前
VMware安装Centos 9虚拟机+设置共享文件夹+远程登录
linux·运维·centos
ChinaRainbowSea2 小时前
1. Linux下 MySQL 的详细安装与使用
linux·数据库·sql·mysql·adb
网络安全(华哥)2 小时前
网络安全服务实施流程管理 网络安全服务体系
运维·服务器·网络
致奋斗的我们2 小时前
Nginx反向代理及负载均衡
linux·运维·mysql·nginx·负载均衡·shell·openeluer
百锦再2 小时前
在Linux上创建一个Docker容器并在其中执行Python脚本
linux·python·docker
Ares-Wang2 小时前
负载均衡 方式
运维·负载均衡
钗头风2 小时前
3.Docker常用命令
运维·docker·容器
忧虑的乌龟蛋3 小时前
嵌入式 Linux:使用设备树驱动GPIO全流程
linux·服务器·嵌入式·imx6ull·gpio·点灯·pinctrl
B站计算机毕业设计超人3 小时前
计算机毕业设计hadoop+spark旅游景点推荐 旅游推荐系统 旅游可视化 旅游爬虫 景区客流量预测 旅游大数据 大数据毕业设计
大数据·hadoop·爬虫·深度学习·机器学习·数据可视化·推荐算法