详解 Flink Table API 和 Flink SQL 之流处理中的表

一、关系型表和流处理表对比

关系型表/SQL 流处理表
处理的数据对象 字段元组的有界集合 字段元组的无限序列
查询(Query)对数据的访问 可以访问到完整的数据输入 无法访问所有数据,必须持续"等待"流式输入
查询终止条件 生成固定大小的结果集后终止 永不停止,根据持续收到的数据不断更新查询结果

二、动态表

  • 当流中有新数据到来,初始的表中会插入一行;而基于这个表定义的 SQL 查询,就应该在之前的基础上更新结果。这样得到的表就会不断地动态变化,被称为"动态表"(Dynamic Tables)
  • 动态表是 Flink 在 T able API 和 SQL 中的核心概念,它为流数据处理提供了表和 SQL 支持。关系型表一般用来做批处理,面向的是固定的数据集,可以认为是"静态表";而动态表则完全不同,它里面的数据会随时间变化

三、持续查询

  • 动态表可以像静态的批处理表一样进行查询操作。由于数据在不断变化,因此基于它定义的 SQL 查询也不可能执行一次就得到最终结果,所以对动态表的查询就永远不会停止,一直在随着新数据的到来而继续执行。这样的查询就被称作"持续查询"(Continuous Query)

  • 动态表查询的处理过程:

    • 流(stream)被转换为动态表(dynamic table)

    • 对动态表进行持续查询(continuous query),生成新的动态表

    • 生成的动态表被转换成流

相关推荐
2301_780356701 天前
【技术解码】全视通“物联数据中台”如何打通医养结合全链路?
大数据·人工智能·物联网
Keystone_Onion1 天前
中大件海外仓路由优化:基于5大仓群联动的美国海外仓尾程降本方案
大数据
中科同志科技先进封装1 天前
芯片打样与封装中试:赋能高校科研与初创公司跨越“从设计到样品”鸿沟
大数据·其他
laboratory agent开发1 天前
企业智能体上线后效果难以衡量:评估体系怎么搭
大数据·人工智能
千桐科技1 天前
开源共建数字水利生态:千桐科技智慧水利项目正式上线 Gitee,诚邀开发者参与共建!
大数据·开源·数据治理·开源项目·数字水利
数字孪生视频孪生1 天前
异构架构赋能三维实时重构 核工危化跨境追踪一屏统揽
大数据·人工智能·重构·空间计算
cspttty1 天前
人力资源管理专业考什么证
大数据·人工智能
m0_749492221 天前
2026 年广东精邦软件科技有限公司 LIMS 深度测评|从选型痛点看实验室数字化如何避开
大数据·人工智能·科技
xindoo1 天前
聊一聊商业产品背后的定价逻辑
大数据
SaaS发言人1 天前
渠道数字化解决方案横评:谁更懂快消
java·大数据·人工智能