hadoop 配置历史服务器 开启历史服务器查看 hadoop (十)

  1. 配置了三台服务器,hadoop22, hadoop23, hadoop24

  2. hadoop文件路径: /opt/module/hadoop-3.3.4

  3. hadoop22机器配置历史服务器的配置文件:

文件路径:/opt/module/hadoop-3.3.4/etc/hadoop

文件名称:mapred-size.xml

新增历史服务器配置,并修改为自己的地址

bash 复制代码
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<!--
  Licensed under the Apache License, Version 2.0 (the "License");
  you may not use this file except in compliance with the License.
  You may obtain a copy of the License at

    http://www.apache.org/licenses/LICENSE-2.0

  Unless required by applicable law or agreed to in writing, software
  distributed under the License is distributed on an "AS IS" BASIS,
  WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  See the License for the specific language governing permissions and
  limitations under the License. See accompanying LICENSE file.
-->

<!-- Put site-specific property overrides in this file. -->

<configuration>

	<!-- 指定MapReduce程序运行在Yarn上 -->
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
	
		<!-- 历史服务器端地址 -->
	<property>
		<name>mapreduce.jobhistory.address</name>
		<value>hadoop22:10020</value>
	</property>

	<!-- 历史服务器web端地址 -->
	<property>
		<name>mapreduce.jobhistory.webapp.address</name>
		<value>hadoop22:19888</value>
	</property>

</configuration>
  1. 将此文件分发到其他机器:(或者手动复制过去也行,每台机器的这个文件都需要改下)
bash 复制代码
# 这个命令是我相关文章的一个脚本,如果没有这个脚本,是运行不了的,
# 可以查看之前文章,添加脚本,也可以手动复制,修改, 也可以centos 的scp 命令发送过去
# 先看注释
# 先看注释
# 先看注释

xsync mapred-size.xml
  1. 重新启动yarn, hdfs集群

  2. 启动历史服务命令:

bash 复制代码
# hadoop文件夹
cd /opt/module/hadoop-3.3.4

# 运行:
bin/mapred --daemon start historyserver

# jps 查看
jps
  1. 测试:

运行命令:

bash 复制代码
# 
hadoop fs -mkdir /input

hadoop fs -put wcinput/word.txt /input

# 统计
hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-3.3.4.jar wordcount /input /output
  1. 查看控制台:

http://192.168.164.23:8088/cluster

点击history 即可查看:

  1. 停止历史服务器:
bash 复制代码
# hadoop文件夹
cd /opt/module/hadoop-3.3.4

# 停止:
bin/mapred --daemon stop historyserver
相关推荐
和舒貌17 分钟前
【无标题】
服务器
实心儿儿37 分钟前
Linux —— 线程控制(2)
linux·运维·服务器
量子炒饭大师1 小时前
【Linux系统编程:进程概念】——【从 冯诺依曼系统体系结构 到 操作系统】
linux·运维·服务器·操作系统·冯诺依曼
lld9510271 小时前
(一)云回测:量化策略上线前的必经之路
java·服务器·数据库
2023自学中1 小时前
imx6ull 开发板,手机,MQTT 物联网通信实验。
linux·服务器·物联网·嵌入式·开发板·应用编程
疯狂打码的少年2 小时前
Cache的三种映射方式(直接/全相联/组相联)
linux·服务器·数据库·笔记
minji...2 小时前
Linux 高级IO(四)多路转接之epoll,epoll 模型及原理
linux·运维·服务器·多路转接·epoll·epoll模型·红黑树/就绪队列/回调
蜡笔婧萱2 小时前
网络服务综合大实验--包含NFS服务器,Web服务器,DNS域名服务器
linux·服务器·网络
bitbrowser2 小时前
2026年Facebook广告账户频频“连坐”被封?聊聊出海投流
运维·服务器·facebook
汽车仪器仪表相关领域3 小时前
Kvaser Hybrid CAN/LIN 单通道三合一总线分析仪:高性价比CAN FD/LIN集成测试利器
运维·服务器·网络·数据挖掘·数据分析·单元测试·集成测试