【Kafka笔记】(四)Kafka 三种消费模式

一、至少一次 At-Least-Once(默认)

数据一定能消费成功,可能重复消费。

二、 最多一次 At-Most-Once

不会重复消费,可能丢失数据。

不丢不重,精准消费,企业生产唯一标准。

实现依赖:Flink Checkpoint + Kafka 手动 Offset 提交

  1. Flink 通过 group.id 绑定消费者组,记录消费位置

  2. 开启 Checkpoint 后,Flink 自动管理 Offset,宕机重启不丢数据、不重复数据

  3. Kafka 分区数决定 Flink 最大并行消费能力

  4. 实时任务 99% 数据源都是 Kafka

相关推荐
阿里云云原生4 天前
数据链路再精简:Kafka 如何做到“零 ETL”一键写入 Apache Iceberg?
kafka
RainCity4 天前
Java Swing 自定义组件库分享(十二)
java·笔记·后端
阿里云云原生10 天前
告别冗长链路!Kafka × Table Bucket 实现开放表格式零 ETL 实时入湖
云原生·kafka
LinXunFeng12 天前
Obsidian - 使用 Share Note 分享笔记并自部署
前端·笔记·github
闪闪发亮的小星星16 天前
高斯光以及高斯光公式解释
笔记
cqbzcsq16 天前
CellFlow虚拟细胞论文阅读
论文阅读·人工智能·笔记·学习·生物信息
阿米亚波16 天前
【Windows】QEMU 启动 openEuler aarch64/arm64 架构系统 + 离线软件源
linux·windows·经验分享·笔记·架构·arm
自传.16 天前
尚硅谷 Vibe Coding|第三章(1) Claude Code深度使用与进阶技巧 学习笔记
笔记·学习·尚硅谷·vibecoding
.千余16 天前
【C++】模板进阶全解:非类型参数|全特化|偏特化|分离编译完全指南
开发语言·c++·笔记·学习·其他
自传.16 天前
尚硅谷 Vibe Coding|第二章 AI编程工具生态 学习笔记
笔记·学习·ai编程·尚硅谷·vibe coding