Flink并行度

1、Task

flink中每个算子就是一个Task,比如flatMap、map、sum是一个Task。

2、SubTask

算子有几个并行度SubTask的数量就是几,比如

3、算子并行度

算子并行度指的是每个算子的并行度,可用env.setParallelism(1);设置所有算子的并行度,也可以对每个算子单独设置,通过降数据流划分为多个并行的算子实例(SubTask)可实现数据的并行处理。

一个Job的并行度是算子并行度的最大值,比如一个Job中有map算子并行度是2、filter算子并行度是4,则任务并行度就是4。

总结:Flink中,每一个算子都可以成为一个独立任务(task)。

相关推荐
廋到被风吹走18 分钟前
【AI】GPT-5.6三模型齐发、世界模型崛起、Anthropic冲刺IPO
大数据·人工智能·gpt
中国搜索直付通43 分钟前
避开直付通选型暗礁:二级商户的合规生存与背景甄别
java·大数据·开发语言·人工智能·游戏
无忧智库1 小时前
产业经济大脑建设方案:用数据驱动“产业研判、精准招商、企业服务与经济智治”(PPT)
大数据
leoZ2311 小时前
Git 集成实战完全指南(六):Git 标签与版本管理
大数据·git·elasticsearch
Faith_xzc1 小时前
Apache Doris 元数据运维深度解析:从架构原理到故障实战
大数据·运维·doris
hkNaruto1 小时前
【大数据】《传统Hadoop大数据技术入门:补充与进阶——从数据格式到智能决策的问答实录》
大数据·hadoop·分布式
大大大大晴天2 小时前
深入浅出 Flink DataStream API:原理与使用
flink
吾AI科技2 小时前
基于Tez引擎的 Hive SQL 性能优化
大数据·hive·性能优化·tez
百胜软件@百胜软件2 小时前
零点零一×百胜E3+业务智能中台项目启动,中台赋能客制化机械键盘品牌“加数”发展
大数据·云计算
鼎艺创新科技2 小时前
WAIC 2026观察:应急AI三维沙盘避坑 拆解3DGIS+AI真落地的3个核心技术门槛
大数据·人工智能·国产化·电子沙盘·三维电子沙盘