hadoop中了解yarm

Hadoop中的YARN(Yet Another Resource Negotiator)是一种新的Hadoop资源管理器,是一个通用资源管理系统,可为上层应用提供统一的资源管理和调度。以下是其相关介绍:

核心思想

将JobTracker的资源管理和作业调度/监控功能分离,创建一个全局的ResourceManager(RM)和若干个针对应用程序的ApplicationMaster(AM)。

主要架构

  • ResourceManager(RM):是全局资源管理器,负责整个系统的资源管理和分配,由调度器(Scheduler)和应用程序管理器(ApplicationsManager,ASM)构成。调度器根据容量、队列等限制条件将资源分配给应用程序;应用程序管理器负责管理所有应用程序,包括提交、启动AM及监控其状态。

  • ApplicationMaster(AM):每个应用程序包含一个AM,主要功能是与RM调度器协商获取资源,将任务分配给内部任务,与NM通信启动/停止任务,监控任务状态并在失败时重启任务。

  • NodeManager(NM):是每个节点上的资源和任务管理器,定时向RM汇报资源使用和Container运行状态,接收并处理来自AM的Container启动/停止等请求。

  • Container:是YARN中的资源抽象,封装了节点上的多维度资源,如内存、CPU等。AM向RM申请资源时,RM返回的资源用Container表示,任务只能使用Container中描述的资源。

优点

大大减小了JobTracker的资源消耗,让监测任务状态的程序分布式化;AM可变更,使更多类型的编程模型能在Hadoop集群中运行;以内存为单位表示资源更合理;将监控任务运行状况的负担从JobTracker转移到AM,提高了系统的稳定性和可扩展性。

调度器

YARN提供了多种调度器,如FIFO Scheduler(先进先出,适合低负载集群)、Capacity Scheduler(将资源分为多个队列,允许共享集群,保证每个队列最小资源使用)和Fair Scheduler(公平地将资源分给应用,使所有应用平均得到相同资源份额)。

相关推荐
Nefu_lyh1 天前
【Hive】七、Hive 函数:聚合 / 统计 / 分位数 / 集合 / 高级分组
数据仓库·hive·hadoop
阿 才1 天前
跟文件系统(busybox)的构建
大数据·hadoop·分布式
KANGBboy1 天前
hive UDF函数
数据仓库·hive·hadoop
暴躁小师兄数据学院2 天前
【AI大数据工程师特训笔记】第15讲:大数据环境安装
大数据·hadoop·flink·spark
王小王-1232 天前
基于 Hadoop + Flask 的电动汽车数据分析与可视化系统设计与实现
hadoop·数据分析·flask·电动汽车·新能源汽车数据分析·新能源汽车销量分析·新能源汽车销售分析
王小王-1232 天前
基于机器学习与Hadoop的心脏病数据分析与可视化设计与实现
hadoop·机器学习·数据分析·心脏病预测
知识分享小能手2 天前
Hadoop学习教程,从入门到精通, Hadoop 3.x 高可用集群 — 知识点详解(6)
大数据·hadoop·学习
知识分享小能手3 天前
Hadoop学习教程,从入门到精通, ZooKeeper 分布式协调服务 — 全面知识点与案例代码(5)
hadoop·分布式·zookeeper
知识分享小能手4 天前
Hadoop学习教程,从入门到精通, MapReduce分布式计算框架 — 完整知识点与代码案例(4)
hadoop·学习·mapreduce
白日与明月4 天前
Hive子查询中的ORDER BY陷阱:为什么排序“消失”了?
数据仓库·hive·hadoop