Rabbitmq消息重复消费

1、消息何时会重复消费

自动提交模式时

消费者进行处理后,会给队列发送一个ack(参考上一篇的消息丢失),但是这个ack在中途丢失了,导致队列以为消费者没有成功消费。所以就不会删除这个消息,会进行重新消费。

手动提交模式

用户手动提交后,ack丢失,和上文一致。

接收到消息并处理接触了,此时消费者挂了,来不及发手动提交,发ack。

2.解决方案:

造成上面的原因只要还是网络问题、以及消费者宕机。这种是无法避免的。最多就是绕过这个问题。即:如果消费端收到两条一样的消息,应该怎样处理?

2.1 消费端处理消息的业务逻辑保持幂等性。

  • 比如你拿个数据要写库,先根据主键查一下,如果这数据有了,就别插入了,update 一下。
  • 比如你是写 Redis,那没问题了,反正每次都是 set,天然幂等性。

2.2 消费者用消息日志保证幂等

利用一张日志表来记录已经处理成功的消息的 ID,如果新到的消息 ID 已经在日志表中,那么就不再处理这条消息。

注意:此时需要保证每个消息都有唯一的id。 ​

相关推荐
m0_5648768413 分钟前
Distributed data parallel (DDP)分布式训练
分布式
BYSJMG2 小时前
计算机毕设选题推荐:基于Hadoop的交通事故数据可视化分析系统
大数据·vue.js·hadoop·分布式·后端·信息可视化·课程设计
野犬寒鸦2 小时前
从零起步学习并发编程 || 第三章:JMM(Java内存模型)详解及对比剖析
java·服务器·开发语言·分布式·后端·学习·spring
虫小宝3 小时前
查券返利机器人的异步任务调度:Java XXL-Job+Redis实现海量查券请求的分布式任务分发
java·redis·分布式
yq1982043011565 小时前
构建高可用资源导航平台:基于Django+Scrapy的分布式架构实践
分布式·scrapy·django
你这个代码我看不懂5 小时前
Kafka常见问题解答
分布式·kafka
Tony Bai5 小时前
Git 即数据库:Beads (bd) —— 专为 AI Agent 打造的分布式任务追踪引擎
数据库·人工智能·分布式·git
小邓睡不饱耶5 小时前
Spark Streaming实时微博热文分析系统:架构设计与深度实现
大数据·分布式·spark
北亚数据恢复5 小时前
分布式数据恢复—Ceph+TiDB数据恢复报告
分布式·ceph·数据恢复·tidb·服务器数据恢复·北亚数据恢复·存储数据恢复
Zilliz Planet5 小时前
<span class=“js_title_inner“>Spark做ETL,与Ray/Daft做特征工程的区别在哪里,如何选型?</span>
大数据·数据仓库·分布式·spark·etl