【Kafka笔记】(四)Kafka 三种消费模式

一、至少一次 At-Least-Once(默认)

数据一定能消费成功,可能重复消费。

二、 最多一次 At-Most-Once

不会重复消费,可能丢失数据。

不丢不重,精准消费,企业生产唯一标准。

实现依赖:Flink Checkpoint + Kafka 手动 Offset 提交

  1. Flink 通过 group.id 绑定消费者组,记录消费位置

  2. 开启 Checkpoint 后,Flink 自动管理 Offset,宕机重启不丢数据、不重复数据

  3. Kafka 分区数决定 Flink 最大并行消费能力

  4. 实时任务 99% 数据源都是 Kafka

相关推荐
一隅论数智3 天前
给AI一张“业务概念地图“:本体如何从哲学走向企业智能
大数据·人工智能·经验分享·笔记·学习·学习方法·政务
深圳老胡3 天前
STM32F407 控制 L6470 步进电机驱动 —— 控制过程简介
笔记·stm32·单片机·嵌入式硬件·代码规范
Because_of_Her13 天前
并查集-听课笔记
笔记·算法·并查集
彧azz3 天前
Linux 环境下 Redis 学习总结:数据类型、持久化、锁、事务、主从与缓存问题
linux·redis·笔记·学习·面试
陈卫军老师3 天前
陈卫军:把口味写在一张纸上,店才稳得住
经验分享·笔记·流量运营
`流年づ3 天前
人工智能学习笔记 - 补充
人工智能·笔记·深度学习·学习
qeen873 天前
【Linux】操作系统之进程介绍(二)
linux·笔记·学习·进程
Thomas.Sir3 天前
第21课:PyTorch|GPU多卡训练与分布式训练基础【让多卡并行成为你的加速引擎】
人工智能·pytorch·分布式
从零开始的嵌入式之旅3 天前
day47
arm开发·经验分享·笔记·嵌入式硬件
Cicada1283 天前
库存消息消费的正确性设计——从幂等窗口到批量流水线
分布式·系统架构