- 精准一次怎么保证?可以设置为以下2个
- 对齐
- 当有一个barrier比较快时,输入缓冲区阻塞,当另外一个barrier到来时,才进行备份,所以数据不会重复。
- 优点:不会造成数据重复
- 缺点:会造成数据积压,OOM
- 不对齐
- 当有一个barrier到来时,直接将barrier置到最后,然后将所有缓冲区的数据和状态进行备份,然后将kafka提交,然后将慢的barrier也置到最后,将所有缓冲区的数据和状态进行备份,然后将kafka提交。
- 优点:加快了ck
- 缺点:由于备份了大量数据,会造成IO压力大,磁盘存储压力大
- 对齐
- 至少一次怎么保证?
- 对齐
- 当有一个barrier比较快时,输入缓冲区不阻塞,直接向下游流动,而barrier会等待另外一个barrier,当此次ck备份成功后,JM注入新的barrier,然后到一半的时候,备份失败了,kafka回滚,从HDFS中恢复上次的ck,恢复kafka的offset,由于不阻塞,所以会重新从kafka中拉取到重复的数据进行计算,就造成了数据的重复,就是至少一次语义。
- 优点:不阻塞,不会造成数据积压,OOM
- 缺点,会造成数据重复
flink-对齐和不对齐,精准一次和至少一次
青云游子2023-08-14 9:24
相关推荐
蒸汽求职2 小时前
机器人软件工程(Robotics SDE):特斯拉Optimus落地引发的嵌入式C++与感知算法人才抢夺战诸葛务农2 小时前
AGI 主要技术路径及核心技术:归一融合及未来之路5J2虾虾4 小时前
数据分析师课程大力财经4 小时前
纳米漫剧流水线接入满血版Seedance 2.0 实现工业级AI漫剧确定性交付AI周红伟5 小时前
OpenClaw是什么?OpenClaw能做什么?OpenClaw详细介绍及保姆级部署教程-周红伟Elastic 中国社区官方博客5 小时前
当 TSDS 遇到 ILM:设计不会拒绝延迟数据的时间序列数据流Omics Pro5 小时前
虚拟细胞:开启HIV/AIDS治疗新纪元的关键?沐风___6 小时前
Claude Code 权限模式完全指南:Auto、Bypass、Ask 三模式深度解析qq_5470261797 小时前
LangChain 工具调用(Tool Calling)黎阳之光9 小时前
黎阳之光:数智科技破局湖库富营养化,筑造水生态治理新标杆