Rabbitmq消息重复消费

1、消息何时会重复消费

自动提交模式时

消费者进行处理后,会给队列发送一个ack(参考上一篇的消息丢失),但是这个ack在中途丢失了,导致队列以为消费者没有成功消费。所以就不会删除这个消息,会进行重新消费。

手动提交模式

用户手动提交后,ack丢失,和上文一致。

接收到消息并处理接触了,此时消费者挂了,来不及发手动提交,发ack。

2.解决方案:

造成上面的原因只要还是网络问题、以及消费者宕机。这种是无法避免的。最多就是绕过这个问题。即:如果消费端收到两条一样的消息,应该怎样处理?

2.1 消费端处理消息的业务逻辑保持幂等性。

  • 比如你拿个数据要写库,先根据主键查一下,如果这数据有了,就别插入了,update 一下。
  • 比如你是写 Redis,那没问题了,反正每次都是 set,天然幂等性。

2.2 消费者用消息日志保证幂等

利用一张日志表来记录已经处理成功的消息的 ID,如果新到的消息 ID 已经在日志表中,那么就不再处理这条消息。

注意:此时需要保证每个消息都有唯一的id。 ​

相关推荐
爱吃提升11 小时前
python 分布式爬虫、爬虫合规与综合实战项目
分布式·爬虫·python
ZENERGY-众壹14 小时前
跨品牌逆变器升级:华为锦浪德业 API 对接的 7 个坑
分布式·华为·数据归一化·光伏运维·逆变器api
薛定谔的猫198218 小时前
LLaMA-Factory +DeepSpeed 分布式多卡训练实战全解
分布式·deepspeed·zero·多卡训练·多卡分布式训练
稚南城才子,乌衣巷风流18 小时前
RabbitMQ 消息队列:从入门到实战
分布式·rabbitmq
Database_Cool_1 天前
单机 MySQL 迁移到分布式数据库方便吗?阿里云 PolarDB-X 100% MySQL 协议兼容零改造平滑迁移
数据库·分布式·mysql
肥胖小羊2 天前
解决企业微信 AccessToken 刷新并发冲突的分布式锁机制实践
分布式·企业微信
过期动态2 天前
【LeetCode 热题 100】找到字符串中所有字母异位词
java·数据结构·算法·leetcode·职场和发展·rabbitmq
风中凌乱3 天前
kafka新版本集群的安装与部署
分布式·kafka
SLD_Allen3 天前
大规模分布式AI训练基础设施
人工智能·分布式·模型训练
富士康质检员张全蛋3 天前
Kafka的操作-消费的详情
分布式·kafka