rabbitMQ如何确保消息不会丢失

rabbitmq消息丢失的三种情况

  • 生产者将消息发送到RabbitMQ的过程中时,消息丢失。
  • 消息发送到RabbitMQ,还未被持久化就丢失了数据。
  • 消费者接收到消息,还未处理,比如服务宕机导致消息丢失。

解决方案

生产者发送过程中,消息丢失

方案1 - 开启RabbitMQ事务

生产者发送消息之前,开启RabbitMQ事务channel.txSelect,如果消息没有成功被RabbitMQ接收到,那么生产者会收到异常报错,此时可以回滚事务channel.txRollback,然后重试发送消息,如果收到了消息,那么可以正常提交事务。channel.txCommit。(不建议,同步阻塞

方案2 - 使用confirm机制

事务机制和Confirm机制最大的不同在于,事务机制是同步的,提交一个事务之后会阻塞在那儿,但是Confirm机制是异步的。

在生产者开启confirm机制后,每次写消息都会分配一个唯一id,然后RabbitMQ正常处理了这个消息,RabbitMQ会回传给你一个ack消息,告诉你这个消息发送ok了,如果没能正常处理,会回调一个nack接口,告诉你这个消息失败了,此时,你可以对这个消息发起重试。

并且你可以基于这个机制,维护每个消息的id,如果超过一定的时候还没接收到这个消息的回调,你可以进行重发。(消费者需要做好幂等)

RabbitMQ 服务端消息丢失

丢失场景:

  • 未持久化消息
  • 磁盘损坏或集群故障

方案 - 消息持久化

RabbitMQ的消息默认存放在内存上的,如果不特别声明设置,消息不会持久化保存到硬盘上,如果节点重启或者意外crash掉,消息就会丢失。

Exchange 设置持久化

Queue 设置持久化

Message 设置持久化

方案 - 设置集群镜像模式

RabbitMQ有以下三种部署模式

  • 单节点部署
    最简单的模式,非集群模式,节点挂了,业务瘫痪
  • 普通模式(默认集群模式)
    消息只会存在主节点上,不会同步到其他节点,当前节点宕机,有影响的业务会瘫痪,只能等待节点重启后恢复可用,
  • 镜像模式(镜像队列模式)
    消息会同步到其他节点上,可以设置同步的节点个数,但吞吐量会下降,属于RabbitMQ的HA方案

以下是三种HA策略模式

  • 同步所有的
  • 同步最多N个机器的
  • 只同步至服务执行名称的节点

消费者丢失消息

方案 - ACK确认机制

关闭自动应答(自动ack),业务服务端在确保正确处理完消息后,手动ack,避免消息还未被处理完就ack,这样就避免了,当一个消费者出了问题,也会有其他的消费者去消费, 保证了消息不丢失的场景。

相关推荐
User_芊芊君子5 小时前
【分布式训练】CANN SHMEM跨设备内存通信库:构建高效多机多卡训练的关键组件
分布式·深度学习·神经网络·wpf
酷酷的崽7985 小时前
CANN 开源生态解析(四):`cann-dist-train` —— 构建高效可扩展的分布式训练引擎
分布式·开源
惊讶的猫6 小时前
AMQP 与 RabbitMQ 四大模型
分布式·rabbitmq
灰子学技术6 小时前
istio从0到1:如何解决分布式配置同步问题
分布式·云原生·istio
小马爱打代码7 小时前
ZooKeeper:入门实战
分布式·zookeeper·云原生
永远都不秃头的程序员(互关)7 小时前
CANN赋能AIGC分布式训练:硬核通信,加速大模型智能生成新纪元
分布式·aigc
像少年啦飞驰点、8 小时前
从零开始学 RabbitMQ:小白也能懂的消息队列实战指南
java·spring boot·微服务·消息队列·rabbitmq·异步编程
lekami_兰8 小时前
RabbitMQ 延迟队列实现指南:两种方案手把手教你搞定
后端·rabbitmq·延迟队列
杜子不疼.9 小时前
CANN集合通信库HCCL的大规模分布式训练通信优化与拓扑感知实践
分布式
ALex_zry21 小时前
Redis Cluster 分布式缓存架构设计与实践
redis·分布式·缓存