flink pekko OversizedPayloadException 异常排查记录

现象

从chk启动flink 某算子一直显示"load",其他task chain都是running,然后整体都变loadding, 来回反复循环.

日志

jobmanager:

org.apache.pekko.remote.OversizedPayloadException:

Discarding oversized payload ...

max allowed size 10485760 bytes,

actual size ... was 11570100 bytes.

flink pekko jobmanager->taskmanager rpc默认10MB

超过后会被丢弃 从而导致某个task chain无法起来

建议处理方案

根本原因:

不是flink state太大,而是 state 的内容/恢复句柄复杂度大

相关推荐
平顶山大师14 小时前
datalink下载安装
flink·微软
用户36105886261219 小时前
从 chroot 到 LXC:四代容器隔离技术演进,Namespace 与 Cgroups 原理拆解
大数据·flink
Msshu12320 小时前
什么是PD快充诱骗取电芯片,PD快充取电芯片如何选型
flink·rabbitmq·ambari·mariadb·storm·talkingdata
用户3610588626123 天前
Flink高级之侧输出流Side Output原理及代码实现:从OutputTag到多流分发
大数据·flink
用户3610588626124 天前
Flink高级之富函数类深度剖析:执行时序、状态注册与序列化陷阱
大数据·flink
starzy19904 天前
Flink高级之Pattern API代码实现:序列语义、循环约束与匹配策略
大数据·flink
starzy19905 天前
Flink高级之CEP深度剖析:Pattern API、NFA引擎与风控实战
大数据·flink
用户3610588626125 天前
Flink高级之函数类深度剖析:生命周期、状态访问与定时器全解析
大数据·flink
starzy19905 天前
Flink TimeWindow 详解及代码实现:从三种时间语义到滚动与滑动窗口
java·服务器·flink