flink pekko OversizedPayloadException 异常排查记录

现象

从chk启动flink 某算子一直显示"load",其他task chain都是running,然后整体都变loadding, 来回反复循环.

日志

jobmanager:

org.apache.pekko.remote.OversizedPayloadException:

Discarding oversized payload ...

max allowed size 10485760 bytes,

actual size ... was 11570100 bytes.

flink pekko jobmanager->taskmanager rpc默认10MB

超过后会被丢弃 从而导致某个task chain无法起来

建议处理方案

根本原因:

不是flink state太大,而是 state 的内容/恢复句柄复杂度大

相关推荐
Flynn Liang2 天前
物联网时序数据乱序问题全链路治理:从设备到存储的五层实战(附 Flink/Kafka/IoTDB 配置级代码)
flink·kafka·iot·iotdb·emqx·乱序·时序数据
欢醉2 天前
Flink实时同步Oracle到StarRocks的几个踩坑经验分享
starrocks·oracle·flink
用户3610588626123 天前
Flink 注册Slot源码深度剖析:从TaskManager注册到Slot状态机的完整链路
大数据·flink
阿里云大数据AI技术3 天前
实时看、持续记、及时说,央视体育携手阿里云 Flink 打造大型赛事实时 AI 解说Agent
人工智能·flink
阿里云大数据AI技术4 天前
阿里云Flink + Fluss年度发布:Streaming Agent 与湖流一体
人工智能·flink·agent
用户3610588626126 天前
Flink Dispatcher启动流程源码深度剖析:从ClusterEntrypoint到JobMaster启动的完整链路
大数据·flink
用户3610588626127 天前
Flink ApplicationMaster启动流程源码深度剖析:从YARN提交到JobMaster启动的完整链路
大数据·flink
智码看视界7 天前
技术选型指南:Kafka Streams vs Flink:流处理框架选型实战对比与性能压测
flink·实时计算·状态管理·流处理·大数据架构·kafkastreams·流处理选型
用户3610588626128 天前
Flink 配置深度剖析:从配置加载到参数调优的完整指南
大数据·flink
Irene19919 天前
Flink 学习日志 01:前端转大数据的实战避坑指南
java·jvm·flink