flink使用 DefaultResourceCalculator(默认资源计算器) 策略

在 Apache Flink 中,DefaultResourceCalculator 是一种资源计算策略,用于在资源调度过程中评估任务所需的资源量。以下是其核心特性和使用场景:

bin/flink run \

-t yarn-per-job \

-d \

-p 5 \

-Drest.flamegraph.enabled=true \

-Dyarn.application.queue=test \

-Djobmanager.memory.process.size=1024mb \

-Dtaskmanager.memory.process.size=4096mb \

-Dtaskmanager.numberOfTaskSlots=2 \

-c com.bigdata.flink.tuning.UvDemo \

/opt/module/flink-1.13.1/myjar/flink-tuning-1.0-SNAPSHOT.jar

1. 资源计算逻辑

该策略基于 Slot 数量 进行资源分配:

  • 每个 Task 所需的资源由其并行度决定
  • 资源需求公式:

    Resource_{task} = \\text{并行度} \\times \\text{每个 Slot 的资源量}

2. 关键特性

  • 单维度计算
    仅考虑 Slot 数量,不涉及 CPU/内存的独立权重分配
  • 简单高效
    适用于大多数标准场景,降低调度复杂度
  • 默认启用
    在未显式配置时自动生效

3. 配置方式

flink-conf.yaml 中显式指定:

复制代码
taskmanager.resource-calculator: org.apache.flink.runtime.resourcemanager.DefaultResourceCalculator

4. 适用场景

  • 集群资源同质化(Slot 配置相同)
  • 无特殊资源隔离需求
  • 需快速部署的标准批处理/流处理任务

5. 对比其他策略

策略类型 资源维度 适用场景
DefaultResourceCalculator Slot 数量 常规作业
DominantResourceCalculator CPU/内存独立权重 异构资源环境(如 Kubernetes)

提示 :在 Kubernetes/YARN 等资源异构环境中,建议切换为 DominantResourceCalculator 以优化资源利用率。

通过合理选择资源计算策略,可显著提升集群资源利用效率和作业稳定性。

相关推荐
微三云 - 廖会灵 (私域系统开发)1 小时前
存量社区破局:当物业困局遇上消费返物业费,重构社区商业新生态
大数据·人工智能·重构
小五传输3 小时前
消防总队信创改造实践:国产文件传输服务器解决文件传输难题
大数据·运维·安全
flyinsono3 小时前
连锁宠物医院怎么管?杏聆荟系统实现多店高效协同
大数据·宠物
Sayai3 小时前
Elasticsearch 9 安装验证实战:start-local 一键部署 + Docker 手动安装踩坑指南
大数据·elasticsearch·docker
智恒百亿3 小时前
8 卡 RTX 5090 服务器深度实测:256GB 显存能否支撑 70B 模型微调?选型参考
大数据·运维·服务器·人工智能
TDengine (老段)8 小时前
TDengine 线程模型 — 网络、调度、执行
大数据·数据库·物联网·制造·时序数据库·tdengine·涛思数据
智购科技自动贩卖机11 小时前
自动售货机嵌入式状态机设计实战:从45个事件源到层次型状态机的工程重构
大数据·人工智能·stm32·物联网·重构·硬件架构
乐迪信息11 小时前
智慧港口船舶AI算法实现在线状态监测
大数据·人工智能·深度学习·算法·计算机视觉
Raas10011 小时前
MAI Gateway(魔芋企业级AI网关)对比分析:AI网关和API网关区别?企业级能力差距一览
大数据·人工智能·数据挖掘·mai gateway·企业级产品
Neighbor_OldY12 小时前
云上安全配置审计与误配置修复实战:从安全组、OSS、RAM到数据库的全栈排查复盘
大数据·运维·安全·云计算