Hadoop JMX 配置的完整文档

一、JMX 基础概念与 Hadoop 支持

1、JMX 作用

Java Management Extensions(JMX)提供标准 API 监控 JVM 应用运行时状态(内存、线程、GC)及 Hadoop 组件指标(HDFS 容量、RPC 性能、节点状态)

2、Hadoop 组件 JMX 支持

  • NameNodeFSNamesystemState(文件系统状态)、NameNodeActivity(操作统计)
  • DataNodeDataNodeActivity(数据传输)、FSDatasetState(存储状态)
  • ResourceManagerClusterMetrics(集群资源)、QueueMetrics(队列负载)
  • NodeManagerNodeManagerMetrics(容器状态)、ShuffleMetrics(Shuffle 性能)

二、配置

1、namenode

java 复制代码
http://hadoop24:9870/jmx?qry=Hadoop:service=NameNode,name=NameNodeInfo
http://hadoop24:9870/jmx?qry=Hadoop:service=NameNode,name=FSNamesystemState
http://hadoop24:9870/jmx?qry=Hadoop:service=NameNode,name=NameNodeActivity
http://hadoop24:9870/jmx?qry=Hadoop:service=NameNode,name=JvmMetrics
http://hadoop24:9870/jmx?qry=Hadoop:service=NameNode,name=RpcDetailedActivityForPort8020
http://hadoop24:9870/jmx?qry=Hadoop:service=NameNode,name=FSNamesystem
http://hadoop24:9870/jmx?qry=Hadoop:service=NameNode,name=RpcActivityForPort8020
http://hadoop24:9870/jmx?qry=Hadoop:service=NameNode,name=RpcDetailedActivityForPort8022

2、resourceManager

java 复制代码
http://hadoop24:8088/jmx?qry=Hadoop:service=ResourceManager,name=ClusterMetrics
http://hadoop24:8088/jmx?qry=Hadoop:service=ResourceManager,name=JvmMetrics
http://hadoop24:8088/jmx?qry=Hadoop:service=ResourceManager,name=QueueMetrics,q0=root
http://hadoop24:8088/jmx?qry=Hadoop:service=ResourceManager,name=RpcDetailedActivityForPort8030
http://hadoop24:8088/jmx?qry=Hadoop:service=ResourceManager,name=RpcDetailedActivityForPort8031
http://hadoop24:8088/jmx?qry=Hadoop:service=ResourceManager,name=RpcDetailedActivityForPort8032
http://hadoop24:8088/jmx?qry=Hadoop:service=ResourceManager,name=RpcDetailedActivityForPort8033
http://hadoop24:8088/jmx?qry=java.lang:type=GarbageCollector,name=ConcurrentMarkSweep
http://hadoop24:8088/jmx?qry=Hadoop:service=ResourceManager,name=FSOpDurations
http://hadoop24:8088/jmx?qry=Hadoop:service=ResourceManager,name=EventMetrics

3、datanode

java 复制代码
http://hadoop1:50076/jmx?qry=Hadoop:service=DataNode,name=DataNodeActivity-%s-%s 
http://hadoop1:50076/jmx?qry=Hadoop:service=DataNode,name=JvmMetrics
http://hadoop1:50076/jmx?qry=Hadoop:service=DataNode,name=RpcActivityForPort%s
http://hadoop1:50076/jmx?qry=Hadoop:service=DataNode,name=FSDatasetState-%s

4、nodemanager

java 复制代码
http://hadoop11:8042/jmx?qry=Hadoop:service=NodeManager,name=JvmMetrics
http://hadoop11:8042/jmx?qry=Hadoop:service=NodeManager,name=NodeManagerMetrics
http://hadoop11:8042/jmx?qry=Hadoop:service=NodeManager,name=RpcActivityForPort8040
http://hadoop11:8042/jmx?qry=Hadoop:service=NodeManager,name=RpcActivityForPort8041
http://hadoop11:8042/jmx?qry=Hadoop:service=NodeManager,name=ShuffleMetrics
相关推荐
做萤石二次开发的哈哈5 小时前
11月27日直播预告 | 萤石智慧台球厅创新场景化方案分享
大数据·人工智能
Hello.Reader5 小时前
使用 Flink CDC 搭建跨库 Streaming ETLMySQL + Postgres → Elasticsearch 实战
大数据·elasticsearch·flink
用户199701080185 小时前
1688图片搜索API | 上传图片秒找同款 | 相似商品精准推荐
大数据·数据挖掘·图片资源
武子康6 小时前
大数据-164 Apache Kylin Cuboid 剪枝实战:Derived 维度与膨胀率控制
大数据·后端·apache kylin
梦里不知身是客117 小时前
shuffle过程
大数据
Tadas-Gao7 小时前
Spring Boot 4.0架构革新:构建更精简、更安全、更高效的Java应用
java·spring boot·分布式·微服务·云原生·架构·系统架构
星释7 小时前
Rust 练习册 80:Grains与位运算
大数据·算法·rust
练习时长一年8 小时前
git常用命令总结
大数据·git·elasticsearch
TDengine (老段)9 小时前
TDengine IDMP 重塑智慧水务运营(内附 Step by Step 步骤)
大数据·数据库·物联网·时序数据库·iot·tdengine·涛思数据
西格电力科技10 小时前
分布式光伏 “四可” 装置:“发电孤岛” 到 “电网友好” 的关键跨越
分布式·科技·机器学习·能源