【Kafka笔记】(四)Kafka 三种消费模式

一、至少一次 At-Least-Once(默认)

数据一定能消费成功,可能重复消费。

二、 最多一次 At-Most-Once

不会重复消费,可能丢失数据。

不丢不重,精准消费,企业生产唯一标准。

实现依赖:Flink Checkpoint + Kafka 手动 Offset 提交

  1. Flink 通过 group.id 绑定消费者组,记录消费位置

  2. 开启 Checkpoint 后,Flink 自动管理 Offset,宕机重启不丢数据、不重复数据

  3. Kafka 分区数决定 Flink 最大并行消费能力

  4. 实时任务 99% 数据源都是 Kafka

相关推荐
严肃小白兔3 小时前
Cloudflare Durable Objects 支持自动重试:分布式调用如何避免重复执行?
分布式
叼烟扛炮4 小时前
Linux 学习笔记(五十):网络层——IP 协议、子网划分与 NAT 魔法
linux·笔记·学习
叼烟扛炮4 小时前
Linux 学习笔记(六十):单线程的逆袭——epoll 高并发服务器实战
linux·服务器·网络·笔记·学习·算法
用户3610588626124 小时前
深度拆解 Kafka 源码:Producer 构造器装配了哪些核心组件
kafka
方方洛5 小时前
ray教程-27-附录F-RayClient与runtime_env与多语言
人工智能·分布式·机器学习
Rabitebla5 小时前
【Linux操作系统】进程篇(十一):进程程序替换——从底层原理到 exec 函数族
linux·服务器·c++·笔记·学习·算法
叼烟扛炮6 小时前
[LangChain] 学习笔记(03):打破失忆症——对话机制与上下文管理
java·前端·javascript·笔记·学习·langchain
景煜拾年6 小时前
InnoAI SQL 助手
运维·数据库·笔记·sql
旖旎夜光6 小时前
【C++ 基础入门】类和对象(下):初始化列表、static 成员、友元与内部类
c++·笔记·学习
LONGZHIQIN7 小时前
STM32学习笔记
笔记·stm32·学习·arm