Yarn 集群的架构和工作原理

Yarn 的基本设计思想是将 MapReduce V1 中的 JobTracker 拆分为两个独立的服务:ResourceManager 和 ApplicationMaster。

ResourceManager 负责整个系统的资源管理和分配,ApplicationMaster 负责单个应用程序的管理。

  1. ResourceManager

    RM 是一个全局的资源管理器,负责整个系统的资源管理和分配,它主要由两个部分组成:调度器(Scheduler)和应用程序管理器(Application Manager)。

    调度器:根据容量、队列等限制条件,将系统中的资源分配给正在运行的应用程序,在保证容量、公平性和服务等级的前提下,优化集群资源利用率,让所有的资源都被充分利用;

    应用程序管理器:负责管理整个系统中的所有的应用程序,包括应用程序的提交、与调度器协商资源以启动 ApplicationMaster、监控 ApplicationMaster 运行状态并在失败时重启它。

  2. ApplicationMaster

    用户提交的一个应用程序会对应于一个 ApplicationMaster,它的主要功能有:

    • 与 RM调度器协商以获得资源,资源以 Container 表示。
    • 将得到的任务进一步分配给内部的任务。
    • 与 NN (NameNode)通信以启动/停止任务。
    • 监控所有的内部任务状态,并在任务运行失败的时候重新为任务申请资源以重启任务。
  3. NodeManager

    NodeManager 是每个节点上的资源和任务管理器,

    一方面,它会定期地向 RM 汇报本节点上的资源使用情况和各个 Container 的运行状态;

    另一方面,它接收并处理来自 AM 的 Container 启动和停止请求。

  4. Container

    Container 是 Yarn 中的资源抽象,封装了各种资源。

    一个应用程序会分配一个 Container,这个应用程序只能使用这个 Container 中描述的资源。

    不同于 MapReduce V1 中槽位 slot 的资源封装,Container 是一个动态资源的划分单位,更能充分利用资源。


我们下期见,拜拜!

相关推荐
小真zzz3 分钟前
超越“快照”,深入“解剖”:搜极星专业版如何成为品牌AI心智的“高分辨率核磁共振”
大数据·人工智能·ai·seo·geo
我是发哥哈4 分钟前
横向评测:主流AI培训方案的关键维度对比
大数据·人工智能·学习·机器学习·chatgpt
pengyi8710155 分钟前
代理IP在爬虫中的核心应用,高匿代理避检测基础
大数据·网络·网络协议·tcp/ip·http
智慧化智能化数字化方案8 分钟前
如何进行企业经营分析——解读2026年经营分析模板指南【附全文阅读】
大数据·2026年经营分析模板·经营计划数据分析模型·经营分析系统·经营分析4大框架·经营分析与决策支持·企业经营分析框架
武子康12 分钟前
大数据-275 Spark MLib-集成学习:从Bagging到Boosting的群体智慧
大数据·后端·spark
AI服务老曹18 分钟前
【架构深评】打通 X86/ARM 异构屏障:基于 GB28181/RTSP 的企业级 AI 视频管理平台架构解析
arm开发·人工智能·架构
观测云21 分钟前
观测云 x AI Agent:运维智能化的范式跃迁实践
大数据·运维·人工智能
szxinmai主板定制专家25 分钟前
基于ARM+FPGA高性能MPSOC 多轴伺服设计方案
arm开发·人工智能·嵌入式硬件·fpga开发·架构
fqrj202627 分钟前
网站建设公司怎么选?国内口碑网站建设公司推荐哪家?
大数据·人工智能·html·网站开发
newsxun37 分钟前
布局大湾区“黄金内湾”,HECHTER CAFE亚洲首店落子万象滨海购物村
大数据·人工智能