- 精准一次怎么保证?可以设置为以下2个
- 对齐
- 当有一个barrier比较快时,输入缓冲区阻塞,当另外一个barrier到来时,才进行备份,所以数据不会重复。
- 优点:不会造成数据重复
- 缺点:会造成数据积压,OOM
- 不对齐
- 当有一个barrier到来时,直接将barrier置到最后,然后将所有缓冲区的数据和状态进行备份,然后将kafka提交,然后将慢的barrier也置到最后,将所有缓冲区的数据和状态进行备份,然后将kafka提交。
- 优点:加快了ck
- 缺点:由于备份了大量数据,会造成IO压力大,磁盘存储压力大
- 对齐
- 至少一次怎么保证?
- 对齐
- 当有一个barrier比较快时,输入缓冲区不阻塞,直接向下游流动,而barrier会等待另外一个barrier,当此次ck备份成功后,JM注入新的barrier,然后到一半的时候,备份失败了,kafka回滚,从HDFS中恢复上次的ck,恢复kafka的offset,由于不阻塞,所以会重新从kafka中拉取到重复的数据进行计算,就造成了数据的重复,就是至少一次语义。
- 优点:不阻塞,不会造成数据积压,OOM
- 缺点,会造成数据重复
flink-对齐和不对齐,精准一次和至少一次
青云游子2023-08-14 9:24
相关推荐
数字新视界15 小时前
数据中心DCIM管理系统助力提升机房管理效率与安全性阿里云大数据AI技术16 小时前
孩子王基于阿里云Data Agent的智能体实践:300+Agent 覆盖400+业务场景武子康18 小时前
H3-World 扩展跳跃与开门:新动作怎样进入训练数据?软件技术NINI19 小时前
DeepSeek 大模型落地应用实战指南wuyk55521 小时前
Spider-第11讲-工程化改造与可维护性墨林陌1 天前
AI 热点日报(2026-11-16):黄仁勋或重返英伟达,华为发具身世界模型,ChatGPT Wallet打通支付starzy19901 天前
Structured Streaming 结构化流概述:把流数据当作一张无限增长的表wuyk5551 天前
Spider-第12讲-asyncio异步并发爬取筑梦之人1 天前
Elasticsearch 9.x 从入门到精通(4/7):聚合分析与文本分析数字新视界1 天前
信创动环监控在机房环境管理中的智能化应用与实践分析