Rabbitmq消息重复消费

1、消息何时会重复消费

自动提交模式时

消费者进行处理后,会给队列发送一个ack(参考上一篇的消息丢失),但是这个ack在中途丢失了,导致队列以为消费者没有成功消费。所以就不会删除这个消息,会进行重新消费。

手动提交模式

用户手动提交后,ack丢失,和上文一致。

接收到消息并处理接触了,此时消费者挂了,来不及发手动提交,发ack。

2.解决方案:

造成上面的原因只要还是网络问题、以及消费者宕机。这种是无法避免的。最多就是绕过这个问题。即:如果消费端收到两条一样的消息,应该怎样处理?

2.1 消费端处理消息的业务逻辑保持幂等性。

  • 比如你拿个数据要写库,先根据主键查一下,如果这数据有了,就别插入了,update 一下。
  • 比如你是写 Redis,那没问题了,反正每次都是 set,天然幂等性。

2.2 消费者用消息日志保证幂等

利用一张日志表来记录已经处理成功的消息的 ID,如果新到的消息 ID 已经在日志表中,那么就不再处理这条消息。

注意:此时需要保证每个消息都有唯一的id。 ​

相关推荐
Thomas.Sir6 天前
第21课:PyTorch|GPU多卡训练与分布式训练基础【让多卡并行成为你的加速引擎】
人工智能·pytorch·分布式
Cicada1286 天前
库存消息消费的正确性设计——从幂等窗口到批量流水线
分布式·系统架构
Francek Chen7 天前
【大数据处理与分析】数据仓库Hive:04 数据仓库Hive概述
大数据·数据仓库·hive·hadoop·分布式
Gl�ria7 天前
Hadoop/YARN 集群缩容:下线DN节点
大数据·hadoop·分布式
吉甫作诵7 天前
Kafka 集群安装与运维实战:消费组排查、Offset 重置与副本重分配
大数据·运维·分布式·kafka·消息队列
imDwAaY7 天前
消息队列四大核心问题:顺序性、幂等性、可靠性与一致性
学习·kafka·rabbitmq
是Dream呀8 天前
Harness 工程:让 Agent 真正把任务做完
人工智能·分布式·缓存·agent
yt004yt8 天前
绿岛数字化平台搭建:VOCs 监测与能碳数据一体化方案
大数据·分布式
天天喝旺仔8 天前
分布式服务容错实战:用 Sentinel 实现限流、熔断与降级
分布式·微服务·云原生·sentinel