【Kafka笔记】(四)Kafka 三种消费模式

一、至少一次 At-Least-Once(默认)

数据一定能消费成功,可能重复消费。

二、 最多一次 At-Most-Once

不会重复消费,可能丢失数据。

不丢不重,精准消费,企业生产唯一标准。

实现依赖:Flink Checkpoint + Kafka 手动 Offset 提交

  1. Flink 通过 group.id 绑定消费者组,记录消费位置

  2. 开启 Checkpoint 后,Flink 自动管理 Offset,宕机重启不丢数据、不重复数据

  3. Kafka 分区数决定 Flink 最大并行消费能力

  4. 实时任务 99% 数据源都是 Kafka

相关推荐
凌晨16820 分钟前
YOLO系列学习笔记:从YOLOv1到YOLOv3的演进之路
笔记·yolo·目标跟踪
启观川13 小时前
数据结构与算法-第 3 章 常用算法-贪心算法
数据结构·笔记·python·算法·贪心算法
ab12376815 小时前
Spring WebSocket(STOMP)
笔记·websocket·springboot·stomp
微三云 - 廖会灵 (私域系统开发)15 小时前
供应链系统实战:多渠道订单聚合与分布式库存一致性方案总结
开发语言·分布式·php
Xudde.15 小时前
PwnLab: init 靶机渗透测试(Vulnhub Writeup)
笔记·学习·安全·web安全
2402_8462957715 小时前
eDNA常用的基因片段
笔记
她说可以呀16 小时前
Docker 镜像的两种创建方式
java·分布式·docker
AI视觉网奇16 小时前
3Dconnexion 按照笔记
笔记
海海不掉头发16 小时前
软件开发方法第七周笔记_CSDN博客
人工智能·笔记·学习·软件工程