- 精准一次怎么保证?可以设置为以下2个
- 对齐
- 当有一个barrier比较快时,输入缓冲区阻塞,当另外一个barrier到来时,才进行备份,所以数据不会重复。
- 优点:不会造成数据重复
- 缺点:会造成数据积压,OOM
- 不对齐
- 当有一个barrier到来时,直接将barrier置到最后,然后将所有缓冲区的数据和状态进行备份,然后将kafka提交,然后将慢的barrier也置到最后,将所有缓冲区的数据和状态进行备份,然后将kafka提交。
- 优点:加快了ck
- 缺点:由于备份了大量数据,会造成IO压力大,磁盘存储压力大
- 对齐
- 至少一次怎么保证?
- 对齐
- 当有一个barrier比较快时,输入缓冲区不阻塞,直接向下游流动,而barrier会等待另外一个barrier,当此次ck备份成功后,JM注入新的barrier,然后到一半的时候,备份失败了,kafka回滚,从HDFS中恢复上次的ck,恢复kafka的offset,由于不阻塞,所以会重新从kafka中拉取到重复的数据进行计算,就造成了数据的重复,就是至少一次语义。
- 优点:不阻塞,不会造成数据积压,OOM
- 缺点,会造成数据重复
flink-对齐和不对齐,精准一次和至少一次
青云游子2023-08-14 9:24
相关推荐
陈然信息站29 分钟前
皮尔磁纸板进料安全方案选型指南:O300传感器与myPNOZ、PNOZmulti 2对比乐维_lwops1 小时前
2026选择运维监控系统时应该重点考察哪些功能?ifenxi爱分析1 小时前
爱分析发布《2026 爱分析·Data+AI应用实践报告》Thuni_soft1 小时前
华宇亮相2026药品数智发展大会:AI助推医疗器械审评审批提质增效可乐ea2 小时前
Git 基础设施重建:智能体规模开发下的读写解耦2601_967212722 小时前
智能供电轨道系统供应商技术筛选维度与选型指南EatFan2 小时前
AI Agent Harness 元年:从框架混战到运行时收敛,2026 年 Agent 基础设施分层重构解读瑞熙贝通实验室综合管理平台2 小时前
实验动物中心|LAMS实验动物智慧管理系统标准解决方案|新一代合规化、智能化、全闭环实验动物中心数字化管控方案Gu_WenYun2 小时前
1+N 管家模式重塑家庭财富管理:本元家办的全周期实践路径2601_960356382 小时前
2027校招:数据科学与大数据技术专业应聘数字化解决方案顾问的能力准备清单