Rabbitmq消息重复消费

1、消息何时会重复消费

自动提交模式时

消费者进行处理后,会给队列发送一个ack(参考上一篇的消息丢失),但是这个ack在中途丢失了,导致队列以为消费者没有成功消费。所以就不会删除这个消息,会进行重新消费。

手动提交模式

用户手动提交后,ack丢失,和上文一致。

接收到消息并处理接触了,此时消费者挂了,来不及发手动提交,发ack。

2.解决方案:

造成上面的原因只要还是网络问题、以及消费者宕机。这种是无法避免的。最多就是绕过这个问题。即:如果消费端收到两条一样的消息,应该怎样处理?

2.1 消费端处理消息的业务逻辑保持幂等性。

  • 比如你拿个数据要写库,先根据主键查一下,如果这数据有了,就别插入了,update 一下。
  • 比如你是写 Redis,那没问题了,反正每次都是 set,天然幂等性。

2.2 消费者用消息日志保证幂等

利用一张日志表来记录已经处理成功的消息的 ID,如果新到的消息 ID 已经在日志表中,那么就不再处理这条消息。

注意:此时需要保证每个消息都有唯一的id。 ​

相关推荐
哈里谢顿2 小时前
《10 分钟上手 RabbitMQ:用 Python 写一个“不丢消息”的迷你消息系统》
rabbitmq
回家路上绕了弯9 小时前
熔断限流实战指南:分布式系统的稳定性守卫
分布式·后端
YDS82913 小时前
SpringCloud —— RabbitMQ消息队列详解
spring cloud·rabbitmq·java-rabbitmq
什么都不会的Tristan14 小时前
基于Redis的分布式锁
分布式
kong790692814 小时前
Hadoop介绍HDFS介绍
大数据·hadoop·分布式
RockHopper202515 小时前
AMR “分布式多世界”世界模型的工作原理说明
分布式·世界模型·amr·具身机械主义·具身认知
linweidong15 小时前
Spark Shuffle的优化
大数据·分布式·spark
宇钶宇夕15 小时前
和利时MACS-K分布式控制系统深度解析:全冗余+开放兼容,赋能工业精准控制
运维·分布式·自动化
是阿威啊15 小时前
【用户行为归因分析项目】- 【企业级项目开发第四站】模拟三类用户行为数据上传到Hadoop
大数据·hadoop·分布式·sql·scala