技术栈
flink
starzy1990
3 天前
运维
·
数据库
·
flink
Flink Sliding Window 详解及代码实现:从窗口重叠到状态爆炸防控
上一篇讲了 TimeWindow,把事件时间、处理时间、滚动窗口和滑动窗口的基本用法过了一遍。这篇专门把滑动窗口(Sliding Window)拎出来深讲——它是 Flink 窗口里最容易用错、也最容易出性能问题的一种。
Gl�ria
3 天前
flink
·
yarn
Yarn NM 常驻Flink任务下线:stop/savepoint 释放容器
NM:集群缩容,要下线一台部署 NodeManager 的机器,这台 NM 上还跑着 Flink 流任务常驻 TM 容器/常驻 Flink 任务(两种模式Yarn Session/Per-Job),YARN 不会自动杀掉长驻 TM 容器。
TLA技术
3 天前
数据库
·
oracle
·
flink
·
dba
·
迁移学习
LogMiner vs 裸日志解析(三):Oracle日志解析中的“前镜像”和“后镜像”,到底怎么用?
聊Oracle日志解析,绕不开两个词:前镜像(Before Image) 和后镜像(After Image) 。
starzy1990
3 天前
java
·
flink
Flink Session Window 详解及代码实现:从用户会话切割到窗口合并机制
前面几篇把滚动窗口和滑动窗口讲透了。这两种窗口有一个共同特点:窗口大小是固定的,按时间对齐。但在用户行为分析这个场景里,固定大小的窗口并不合适——用户可能看了 3 分钟页面就走了,也可能连续逛了 2 个小时。你需要的是"用户从打开 App 到离开"这段时间作为一个窗口,这就是会话窗口(Session Window)。
starzy1990
5 天前
大数据
·
flink
Flink Window 详解及代码实现:从滚动窗口到迟到数据处理
做实时计算的同学应该都有这个体会:对无界流做聚合,如果你不定义窗口,程序就会一直攒数据,永远不输出结果。比如统计"每分钟的 PV",如果没有窗口,程序会把所有历史 PV 加在一起,输出一个越来越大的数字,这显然不是我们想要的。
Thomas2143
5 天前
flink
flink pekko OversizedPayloadException 异常排查记录
从chk启动flink 某算子一直显示"load",其他task chain都是running,然后整体都变loadding, 来回反复循环.
平顶山大师
5 天前
flink
·
微软
datalink下载安装
通过网盘分享的文件:fdl-tomcat-win64-240109.zip 链接: https://pan.baidu.com/s/1ZULETzzyGMY1KG_GHXL7sw 提取码: lya6
用户361058862612
6 天前
大数据
·
flink
从 chroot 到 LXC:四代容器隔离技术演进,Namespace 与 Cgroups 原理拆解
摘要:容器隔离能力不是 Docker 发明的——chroot、FreeBSD Jails、Linux VServer/OpenVZ 到 LXC 四代技术逐步补齐了文件系统、进程集合、资源分区与内核视图四层隔离。本文按演进顺序拆解每代技术的隔离机制与边界,最后讲透 Namespace 与 Cgroups 的内核分工,帮助你真正看懂"容器是什么"。
Msshu123
6 天前
flink
·
rabbitmq
·
ambari
·
mariadb
·
storm
·
talkingdata
什么是PD快充诱骗取电芯片,PD快充取电芯片如何选型
什么是PD快充诱骗取电芯片?PD诱骗取电芯片(Type‑C Sink受电芯片),是搭载在用电设备端的芯片。 当你的产品通过Type‑C线接上PD快充充电器时,由这颗芯片和充电器的CC引脚进行通讯协商,向充电器请求对应的电压档位(5V/9V/12V/15V/20V甚至更高),充电器收到请求后输出对应高压,给后端负载或者锂电充电SOC供电。 重点区分:诱骗芯片只负责协商电压、取电,本身不能给锂电池充电,后端需要搭配充电管理SOC。
用户361058862612
8 天前
大数据
·
flink
Flink高级之侧输出流Side Output原理及代码实现:从OutputTag到多流分发
摘要:一条实时数据流里总混着正常、异常、迟到、需监控四类数据,传统 filter 方案要遍历 N 遍、逻辑散落 N 个算子;Flink 侧输出流(Side Output)用一次遍历完成多路分发。这篇文章拆透侧输出:从 1+N 流模型、OutputTag 的类型信息机制(为什么必须带花括号)、ctx.output 到旁路记录通道的内部实现,到窗口迟到数据的专用 API(allowedLateness + sideOutputLateData)、双流对账异常旁路等完整代码案例,最后给出 side output
用户361058862612
9 天前
大数据
·
flink
Flink高级之富函数类深度剖析:执行时序、状态注册与序列化陷阱
摘要:上一篇讲函数类全景时,RichFunction 只是"第二家族";这篇把它单独挖到底。文章从四个维度拆解富函数:接口与继承结构、从实例化到 close 的完整生命周期时序(状态恢复先于 open、链内上游先 open)、RuntimeContext 六类能力(状态/指标/分布式缓存/算子状态/配置/累加器),以及一组真实的序列化与执行陷阱——含非静态匿名类隐式捕获外部 this 导致序列化爆炸、异步 I/O 必须用连接池等。看完能回答"为什么构造器拿不到 RuntimeContext""open 里
starzy1990
9 天前
大数据
·
flink
Flink高级之Pattern API代码实现:序列语义、循环约束与匹配策略
摘要:CEP 篇讲了模式匹配的全景和 NFA 引擎,这篇把 Pattern API 本身磨透——它是 CEP 的"语言",语法细节直接决定匹配结果。文章聚焦四件事:序列语义三兄弟(next/followedBy/followedByAny 的精确差异,用同一事件序列演示)、循环模式与组合约束(times/consecutive/allowCombinations/greedy 的搭配)、时间约束与匹配跳过策略(within + AfterMatchSkipStrategy)、完整 CEP 作业装配(含 P
starzy1990
10 天前
大数据
·
flink
Flink高级之CEP深度剖析:Pattern API、NFA引擎与风控实战
摘要:连续 N 次登录失败、下单后 10 分钟未支付、大额转账后小额试探——这类"事件序列模式"需求,手写状态机维护成本极高,Flink CEP 用声明式 Pattern API 一键解决。这篇文章拆透 CEP:定位与场景边界、四大语法族(序列/循环/时间/跳过策略)、底层 NFA 自动机引擎(状态转移、非确定性分叉、within 定时器、状态存储),以及登录风控、支付超时、洗钱模式三个完整代码案例。读完能直接用 CEP 替代手写状态机,并理解它为什么比 ProcessFunction 手写方案省一个数量
用户361058862612
10 天前
大数据
·
flink
Flink高级之函数类深度剖析:生命周期、状态访问与定时器全解析
摘要:Flink 里所有算子(map/filter/window/UDF)最终都执行在一个"函数类"上。这篇文章把函数类体系拆开讲透:四大家族的继承关系、RichFunction 生命周期与 RuntimeContext 的底层机制、ProcessFunction 状态+定时器+侧输出三大能力、窗口函数的增量/全量执行模型,以及六个真实踩坑案例。看完你能直接回答"为什么 lambda 一碰状态就失灵""WindowFunction 为什么被废弃""定时器为什么会爆炸"这类面试与线上问题。
starzy1990
10 天前
java
·
服务器
·
flink
Flink TimeWindow 详解及代码实现:从三种时间语义到滚动与滑动窗口
前面几篇讲了 Flink Window 的分类、Global Window 和 Keyed Window。实际生产中,用得最多的还是 TimeWindow——基于时间的窗口,包括滚动时间窗口和滑动时间窗口。
clz1314521
10 天前
java
·
flink
风险特征平台架构设计与实现
本文围绕实时指标计算风险特征平台的整体架构展开,重点介绍后管子系统、EPC 子系统、Flink 任务以及 Data 子系统四个核心模块的功能设计与实现思路。平台通过配置化方式接入数据源,完成指标加工与结果存储,形成一套完整的实时数据处理链路。
clz1314521
11 天前
分布式
·
flink
·
kafka
风险特征系统 EPC 子系统:基于 Kafka 数据源与数据集配置的 Flink 指标清洗加工
风险特征系统 EPC 子系统,是用于根据后管配置的接入的 Kafka 数据源信息和数据集信息清洗加工 Flink 指标的。它承担着从原始数据接入到最终指标产出的关键链路职责,是风险特征计算体系中的重要一环。
clz1314521
11 天前
flink
·
kafka
·
linq
用 Akka Actor 模拟消费 Kafka 加工处理并发送到 Flink Out Kafka 的完整示例
本文基于 Akka Actor 模型,演示如何模拟一条完整的 Kafka 消息处理流水线:从消费 Kafka 消息开始,经过加工处理,最终发送到名为 flink_out 的 Kafka 主题。示例使用 JDK 1.8 + Akka 2.5.11 + Scala 2.11,通过两个 ActorSystem 和两条 LookupEventBus 实现消息的解耦流转,完整复刻了真实项目中 DatasetServiceV2 / Planner / OutputServiceV2 的核心架构。
Irene1991
12 天前
java
·
flink
Flink 学习需要具备的 Java 基础知识总结
Flink学习的核心在于掌握Java基础:函数式接口(Lambda)用于无状态算子,RichFunction与RuntimeContext处理有状态逻辑,泛型擦除通过TypeInformation/TypeHint补偿,POJO规则保障序列化性能,状态管理依赖ValueState等。
starzy1990
12 天前
大数据
·
flink
Flink高级之富函数类深度剖析:执行时序、状态注册与序列化陷阱
摘要:上一篇讲函数类全景时,RichFunction 只是"第二家族";这篇把它单独挖到底。文章从四个维度拆解富函数:接口与继承结构、从实例化到 close 的完整生命周期时序(状态恢复先于 open、链内上游先 open)、RuntimeContext 六类能力(状态/指标/分布式缓存/算子状态/配置/累加器),以及一组真实的序列化与执行陷阱——含非静态匿名类隐式捕获外部 this 导致序列化爆炸、异步 I/O 必须用连接池等。看完能回答"为什么构造器拿不到 RuntimeContext"“open 里