Rabbitmq消息重复消费

1、消息何时会重复消费

自动提交模式时

消费者进行处理后,会给队列发送一个ack(参考上一篇的消息丢失),但是这个ack在中途丢失了,导致队列以为消费者没有成功消费。所以就不会删除这个消息,会进行重新消费。

手动提交模式

用户手动提交后,ack丢失,和上文一致。

接收到消息并处理接触了,此时消费者挂了,来不及发手动提交,发ack。

2.解决方案:

造成上面的原因只要还是网络问题、以及消费者宕机。这种是无法避免的。最多就是绕过这个问题。即:如果消费端收到两条一样的消息,应该怎样处理?

2.1 消费端处理消息的业务逻辑保持幂等性。

  • 比如你拿个数据要写库,先根据主键查一下,如果这数据有了,就别插入了,update 一下。
  • 比如你是写 Redis,那没问题了,反正每次都是 set,天然幂等性。

2.2 消费者用消息日志保证幂等

利用一张日志表来记录已经处理成功的消息的 ID,如果新到的消息 ID 已经在日志表中,那么就不再处理这条消息。

注意:此时需要保证每个消息都有唯一的id。 ​

相关推荐
敏叔V58710 小时前
联邦学习与大模型:隐私保护下的分布式模型训练与微调方案
分布式
短剑重铸之日11 小时前
《7天学会Redis》特别篇: Redis分布式锁
java·redis·分布式·后端·缓存·redission·看门狗机制
重生之绝世牛码13 小时前
Linux软件安装 —— kafka集群安装(SASL密码验证)
大数据·linux·运维·服务器·分布式·kafka·软件安装
填满你的记忆14 小时前
【从零开始——Redis 进化日志|Day5】分布式锁演进史:从 SETNX 到 Redisson 的完美蜕变
java·数据库·redis·分布式·缓存
無森~14 小时前
ZooKeeper
分布式·zookeeper·云原生
小北方城市网14 小时前
SpringBoot 集成 MinIO 实战(对象存储):实现高效文件管理
java·spring boot·redis·分布式·后端·python·缓存
Blossom.11814 小时前
大模型分布式训练通信优化:从Ring All-Reduce到分层压缩的实战演进
人工智能·分布式·python·深度学习·神经网络·机器学习·迁移学习
码农水水15 小时前
得物Java面试被问:大规模数据的分布式排序和聚合
java·开发语言·spring boot·分布式·面试·php·wpf
爱吃提升15 小时前
分布式爬虫的核心原理详细介绍
分布式·爬虫
無森~15 小时前
Hadoop序列化与反序列化
大数据·hadoop·分布式