Yarn 集群的架构和工作原理

Yarn 的基本设计思想是将 MapReduce V1 中的 JobTracker 拆分为两个独立的服务:ResourceManager 和 ApplicationMaster。

ResourceManager 负责整个系统的资源管理和分配,ApplicationMaster 负责单个应用程序的管理。

  1. ResourceManager

    RM 是一个全局的资源管理器,负责整个系统的资源管理和分配,它主要由两个部分组成:调度器(Scheduler)和应用程序管理器(Application Manager)。

    调度器:根据容量、队列等限制条件,将系统中的资源分配给正在运行的应用程序,在保证容量、公平性和服务等级的前提下,优化集群资源利用率,让所有的资源都被充分利用;

    应用程序管理器:负责管理整个系统中的所有的应用程序,包括应用程序的提交、与调度器协商资源以启动 ApplicationMaster、监控 ApplicationMaster 运行状态并在失败时重启它。

  2. ApplicationMaster

    用户提交的一个应用程序会对应于一个 ApplicationMaster,它的主要功能有:

    • 与 RM调度器协商以获得资源,资源以 Container 表示。
    • 将得到的任务进一步分配给内部的任务。
    • 与 NN (NameNode)通信以启动/停止任务。
    • 监控所有的内部任务状态,并在任务运行失败的时候重新为任务申请资源以重启任务。
  3. NodeManager

    NodeManager 是每个节点上的资源和任务管理器,

    一方面,它会定期地向 RM 汇报本节点上的资源使用情况和各个 Container 的运行状态;

    另一方面,它接收并处理来自 AM 的 Container 启动和停止请求。

  4. Container

    Container 是 Yarn 中的资源抽象,封装了各种资源。

    一个应用程序会分配一个 Container,这个应用程序只能使用这个 Container 中描述的资源。

    不同于 MapReduce V1 中槽位 slot 的资源封装,Container 是一个动态资源的划分单位,更能充分利用资源。


我们下期见,拜拜!

相关推荐
五点六六六11 小时前
基于 AST 与 Proxy沙箱 的局部代码热验证
前端·设计模式·架构
无心水15 小时前
【任务调度:框架】11、分布式任务调度进阶:高可用、幂等性、性能优化三板斧
人工智能·分布式·后端·性能优化·架构·2025博客之星·分布式调度框架
翱翔的苍鹰16 小时前
实际项目中使用LangChain DeepAgent的完整流程(落地版)
大数据·人工智能·深度学习·语言模型·自然语言处理·langchain
萤丰信息18 小时前
智慧园区系统:赋能园区数字化升级,开启智慧运营新时代
大数据·人工智能·科技·架构·智慧城市·智慧园区
许泽宇的技术分享18 小时前
我用唐朝的三省六部制,重新设计了 AI 多 Agent 协作架构——然后 CrewAI 和 AutoGen 在我眼里都不香了
架构
椰子皮啊19 小时前
400行Node.js搞定mediasoup信令转换:一次跨语言"表白"实录
前端·架构
qq_3495232619 小时前
OpenClaw 架构全解析:本地优先的开源 AI Agent 框架
人工智能·架构·开源
KG_LLM图谱增强大模型19 小时前
Palantir官方揭秘AIP:企业级人工智能平台的端到端架构
大数据·人工智能
mounter62519 小时前
基于MLX设备的Devlink 工具全指南与核心架构演进
linux·运维·服务器·网络·架构·kernel
重庆穿山甲19 小时前
从零到精通:OpenClaw完整生命周期指南
前端·后端·架构