Kafka Producer之数据重复和乱序问题

文章目录

  • [1. 数据重复](#1. 数据重复)
  • [2. 数据乱序](#2. 数据乱序)

为了可靠性,Kafka有消息重试机制,但是同时也带来了2大问题

1. 数据重复

消息发送到broker后,broker记录消息数据到log中,但是由于网络问题,producer没有收到acks,于是再次发送消息。

除此之外,也可能是其他场景,导致了消息的重复。

2. 数据乱序

如图,消息2、3发送到了broker,但是data1因为网络问题没有到broker,然后被producer重试了,第二次到了,但是顺序乱了。

相关推荐
何以解忧,唯有..4 小时前
Redisson分布式锁实现原理深度解析
分布式
萧瑟余晖5 小时前
Java深入解析篇三十六之分布式系统详解
java·开发语言·分布式
cc复CC10 小时前
从零开始手写 Spark 03|RDD 的惰性流水线
分布式
cc复CC10 小时前
从零开始手写 Spark 02|数据流与延迟迭代
大数据·分布式
海兰10 小时前
【Kafka学习3】Apache Kafka 本地部署环境快速入门指南
学习·kafka·apache
七夜zippoe11 小时前
基于 DolphinDB 构建分布式集群:从节点配置到高可用部署的完整实践
分布式·集群·dolphindb·节点配置·高可用部署
渣渣盟12 小时前
Flink + Kafka 数据写入实战:从API调用到端到端一致性精讲
flink·kafka·linq
Acrellea12 小时前
并网验收难破局:分布式光伏如何攻克孤岛、逆流两大技术关卡
分布式
海兰12 小时前
【Kafka学习2】Apache Kafka 典型应用场景
学习·kafka·apache
heimeiyingwang12 小时前
【架构实战】消息队列选型与异步架构设计:从Kafka到RabbitMQ,一次聊透
架构·kafka·rabbitmq