Kafka Producer之数据重复和乱序问题

文章目录

  • [1. 数据重复](#1. 数据重复)
  • [2. 数据乱序](#2. 数据乱序)

为了可靠性,Kafka有消息重试机制,但是同时也带来了2大问题

1. 数据重复

消息发送到broker后,broker记录消息数据到log中,但是由于网络问题,producer没有收到acks,于是再次发送消息。

除此之外,也可能是其他场景,导致了消息的重复。

2. 数据乱序

如图,消息2、3发送到了broker,但是data1因为网络问题没有到broker,然后被producer重试了,第二次到了,但是顺序乱了。

相关推荐
tap.AI19 小时前
(三)Stable Diffusion 3.5 与 ComfyUI
分布式·stable diffusion
云和数据.ChenGuang1 天前
Logstash配置文件的**语法解析错误**
运维·数据库·分布式·rabbitmq·jenkins
秋饼1 天前
【三大锁王争霸赛:Java锁、数据库锁、分布式锁谁是卷王?】
java·数据库·分布式
回家路上绕了弯1 天前
深度解析分布式事务3PC:解决2PC痛点的进阶方案
分布式·后端
Boilermaker19921 天前
[Redis] 分布式缓存与分布式锁
redis·分布式·缓存
lhrimperial1 天前
RabbitMQ核心技术深度解析
分布式·rabbitmq·ruby
Wang's Blog1 天前
RabbitMQ: 高可用集群与跨集群通信架构深度解析
分布式·架构·rabbitmq
爱学大树锯1 天前
【高并发多线程原理】-分布式场景下解决一致性问题方案
分布式
xerthwis1 天前
Kafka:现代数据架构的“脊椎”与“神经”,重新定义数据流动的民主化
大数据·kafka·数据库开发·数据库架构
灯下夜无眠1 天前
Spark Executor 与 Driver 在三种模式下的区别
大数据·分布式·spark