flink 核心概念(个人总结)

flink是一个强大的分布式流处理和批处理框架,具有低延迟、容错性、高吞吐量和灵活的api优势。

在flink里面有七个核心概念。

数据流(datastream)

flink将数据视为流,无论是实时的无界数据流还是有界的数据流。

a.无界数据流:实时生成的数据流,没有结束点,例如实时交易数据

b.有界数据流:有明确开始和结束点的数据流,例如批量处理的历史数据。

转换操作(transformations)

转换操作是对数据流进行处理的计算单元,flink提供了多种内置的转换操作,例如:

  1. map: 对数据流中的每个元素应用一个转换函数
  2. flatmap:将一个元素转换为多个元素
  3. filter:基于一个条件过滤数据流中的元素
  4. KeyBy:根据指定的键将数据流中的元素分组
  5. Aggregate:对数据流中的元素进行聚合操作
  6. Window:在数据流上定义窗口,并在窗口中进行计算

状态(state)

flink支持有状态的流处理,它可以存储和访问数据流处理过程中的状态信息。

状态:在处理数据时,flink可以维护状态,这对于实现复杂逻辑如窗口操作和聚合是有必要的。

时间(state)

flink处理事件时间和摄取时间

事件时间:事件实际发生的时间

摄取时间:事件到达系统的时间

处理时间:事件被处理的时间

窗口(Window)

窗口是处理无界数据流的一种方法,它将数据流切分成有限大小的块进行处理。

1.滚动窗口:固定大小的窗口,当新的事件到达时,窗口会向前滚动。

2.滑动窗口: 窗口在数据流上滑动,可以覆盖多个时间间隔

3.会话窗口:基于事件之间的活跃期定义的窗口

容错(Fault Tolerance)

通过分布式快照机制提供容错性,它可以周期性地对状态进行快照,以便在发生故障时恢复。

1.检查点(checkpoint): flink定期创建状态和流数据的一致性快照

2.端到端容错:从数据源到数据输出的整个处理流程中,flink都能保证数据不丢失。

并行和分布(Parallelism and Distribution)

flink应用的并行度和分布性是设计时的关键考虑因素。

1.并行度:flink应用可以配置并行度,以决定任务被拆分成多少个子任务执行。

2.任务槽:flink在taskmanager中分配任务槽来执行并行任务。

相关推荐
跨境小彭5 分钟前
Temu 广告投放实操:ROAS 底层逻辑与批量广告作业方案
大数据·人工智能·自动化·temu
建筑工程企业管理系统2 小时前
工程计划管理软件能解决工期延误问题吗?施工节点数字化管控实操解读
大数据·软件工程·软件需求
AI推荐率9 小时前
想让AI在选购问题中推荐品牌,应该找什么类型的服务商?
大数据·人工智能·microsoft
浅思科技集9 小时前
工业生产运营软件如何选择?看端到端可见性、数据贯通与AI落地
大数据·人工智能
浅念-10 小时前
一文吃透Git:本地操作|冲突处理|远程协作|GitFlow工作流详解
大数据·git·elasticsearch·搜索引擎·gitflow
葫三生10 小时前
《论三生原理》神话学构想与“神话历史”理论、《古史中的神话》思路异同?
大数据·人工智能·科技·深度学习·算法
国科安芯10 小时前
星链供电架构中的高集成度电源管理方案研究——基于ASP4644四通道降压稳压器在低轨卫星星座中的应用分析
大数据·单片机·嵌入式硬件·架构·低轨卫星·星间链路
小王毕业啦11 小时前
2011-2024年 各地级市养老服务信息面板数据 xlsx
大数据·人工智能·数据挖掘·数据分析·社科数据·实证分析·经管数据
ailsa_hui11 小时前
对于医疗器械行业,鼎捷的ERP有成熟的行业解决方案和合规性支持吗?
大数据
资讯综合12 小时前
500亿招聘市场悖论:AI技术能否填平行业的信任深坑
大数据·人工智能