flink使用 DefaultResourceCalculator(默认资源计算器) 策略

在 Apache Flink 中,DefaultResourceCalculator 是一种资源计算策略,用于在资源调度过程中评估任务所需的资源量。以下是其核心特性和使用场景:

bin/flink run \

-t yarn-per-job \

-d \

-p 5 \

-Drest.flamegraph.enabled=true \

-Dyarn.application.queue=test \

-Djobmanager.memory.process.size=1024mb \

-Dtaskmanager.memory.process.size=4096mb \

-Dtaskmanager.numberOfTaskSlots=2 \

-c com.bigdata.flink.tuning.UvDemo \

/opt/module/flink-1.13.1/myjar/flink-tuning-1.0-SNAPSHOT.jar

1. 资源计算逻辑

该策略基于 Slot 数量 进行资源分配:

  • 每个 Task 所需的资源由其并行度决定
  • 资源需求公式:

    Resource_{task} = \\text{并行度} \\times \\text{每个 Slot 的资源量}

2. 关键特性

  • 单维度计算
    仅考虑 Slot 数量,不涉及 CPU/内存的独立权重分配
  • 简单高效
    适用于大多数标准场景,降低调度复杂度
  • 默认启用
    在未显式配置时自动生效

3. 配置方式

flink-conf.yaml 中显式指定:

复制代码
taskmanager.resource-calculator: org.apache.flink.runtime.resourcemanager.DefaultResourceCalculator

4. 适用场景

  • 集群资源同质化(Slot 配置相同)
  • 无特殊资源隔离需求
  • 需快速部署的标准批处理/流处理任务

5. 对比其他策略

策略类型 资源维度 适用场景
DefaultResourceCalculator Slot 数量 常规作业
DominantResourceCalculator CPU/内存独立权重 异构资源环境(如 Kubernetes)

提示 :在 Kubernetes/YARN 等资源异构环境中,建议切换为 DominantResourceCalculator 以优化资源利用率。

通过合理选择资源计算策略,可显著提升集群资源利用效率和作业稳定性。

相关推荐
llilian_161 天前
相位差测量仪 高精度相位计相位差测量仪的应用 相位计
大数据·人工智能·功能测试·单片机
百家方案1 天前
“十五五”智慧文旅解决方案:以科技为核心,开启沉浸体验与高效治理新篇章
大数据·人工智能·智慧文旅·智慧旅游
专注数据的痴汉1 天前
「数据获取」吉林地理基础数据(道路、水系、四级行政边界、地级城市、DEM等)
大数据·人工智能·信息可视化
知识分享小能手1 天前
Ubuntu入门学习教程,从入门到精通,Ubuntu 22.04 中的大数据 —— 知识点详解 (24)
大数据·学习·ubuntu
城数派1 天前
2019-2025年各区县逐月新房房价数据(Excel/Shp格式)
大数据·数据分析·excel
专注数据的痴汉1 天前
「数据获取」中国会计年鉴(1996-2024)
大数据·人工智能·信息可视化
智慧化智能化数字化方案1 天前
【精品资料鉴赏】详解企业研发生产一体化总体规划建设方案
大数据·人工智能·企业研发生产一体化·企业如何开展数字化转型·企业数字化营销·数字化转型咨询规划·数字化转型架构
奕成则成1 天前
Flink全面入门指南:从基础认知到BI数据仓库实践
大数据·数据仓库·flink
HZZD_HZZD1 天前
喜讯|合众致达成功中标宁夏宝丰集团水电表计量结算管理平台项目
大数据·人工智能
C+++Python1 天前
Flume的核心概念和架构
大数据·架构·flume