- 精准一次怎么保证?可以设置为以下2个
- 对齐
- 当有一个barrier比较快时,输入缓冲区阻塞,当另外一个barrier到来时,才进行备份,所以数据不会重复。
- 优点:不会造成数据重复
- 缺点:会造成数据积压,OOM
- 不对齐
- 当有一个barrier到来时,直接将barrier置到最后,然后将所有缓冲区的数据和状态进行备份,然后将kafka提交,然后将慢的barrier也置到最后,将所有缓冲区的数据和状态进行备份,然后将kafka提交。
- 优点:加快了ck
- 缺点:由于备份了大量数据,会造成IO压力大,磁盘存储压力大
- 对齐
- 至少一次怎么保证?
- 对齐
- 当有一个barrier比较快时,输入缓冲区不阻塞,直接向下游流动,而barrier会等待另外一个barrier,当此次ck备份成功后,JM注入新的barrier,然后到一半的时候,备份失败了,kafka回滚,从HDFS中恢复上次的ck,恢复kafka的offset,由于不阻塞,所以会重新从kafka中拉取到重复的数据进行计算,就造成了数据的重复,就是至少一次语义。
- 优点:不阻塞,不会造成数据积压,OOM
- 缺点,会造成数据重复
flink-对齐和不对齐,精准一次和至少一次
青云游子2023-08-14 9:24
相关推荐
Data-Miner6 小时前
集团数字化转型大数据平台整体建设方案guslegend6 小时前
大模型驱动大数据SRE智能运维跨境小彭7 小时前
2026 Temu 合规新玩法,凌风 ERP 优化 POD 运营效率weixin_397574098 小时前
从“点状试点“到“全面智能化“:制造企业AI落地的现实路径志栋智能8 小时前
超自动化巡检:知识沉淀与团队协作的新载体Old Uncle Tom9 小时前
循环工程(loop engineering)跨境数据猎手9 小时前
淘宝大数据技术在电商行业的应用阿部多瑞 ABU9 小时前
铁三角:泛二次元奶头乐经济的结构分析及其人口后果吴卫斌9 小时前
波动率控制仓位系列(一):满仓轮动的“过山车”困境AI焦点9 小时前
2026年AI应用架构:如何避坑并选对API聚合中转服务?