RabbitMQ发布订阅模式同一消费者多个实例如何防止重复消费?

微服务架构模式中,服务间的通信一般采用HTTP、RPC或者MQ(消息队列)。在这三种方案中,HTTP和RPC是一对一的方式,通常用来进行查询或者命令式的操作,MQ则多用于事件的发布和处理。

在实际项目中我们通常会遇到一种情况:

事件有多个订阅者,有的订阅者部署多个实例,要求每个事件只需要发布一次,每个订阅者都要能收到且仅能有其中一个实例收到并进行处理。

简单说就是既要所有订阅者都能收到消息,又要保证每个订阅者只能消费一次,不能重复消费。那么在使用RabbitMQ作为消息中间件时应该如何处理这个问题?

需求

微服务架构下使用RabbitMQ作为服务总线中间件,有这样一种场景,订单服务在用户提交订单后会发送OrderCreatedEvent事件,需要接收此事件的服务有以下几个:

1、日志服务(单点部署);

2、消息系统,给用户发送短信、邮件(单点部署);

3、仓储系统,接收通知备货,扣减库存等(多实例,有负载均衡),同一条消息仅允许一个实例消费;

4、财务系统,记录收入流水(多实例,有负载均衡),同一条消息仅允许一个实例消费;

5、BI系统,做销售统计等;

问题

OrderCreatedEvent发出后,5个服务均可以接收到消息并进行处理,但是仓储和财务部署了多个实例,也就意味着每个实例都能收到相同的消息,这种情况下如何避免重复消费?

方案

  1. OrderCreatedEvent事件建立一个fanout exchange

  2. 每个需要处理OrderCreatedEvent的订阅者单独建立一个queue,订阅者的所有实例都消费这一个queue的消息。

  3. 将所有OrderCreatedEvent订阅者的queue都bind到第一步建立的exchange上。

  4. 事件发布者将OrderCreatedEvent消息发布到exchange,由exchange将消息路由到对应的queue,最后由queue锁定一个消费者实例并进行投递。

以下是示意图
graph LR Producer((订单服务)) Exchange{{OrderCreatedEvent交换机(fanout exchange)}} QueueA@{shape: subproc, label: 日志系统队列} QueueB@{shape: subproc, label: 消息系统队列} QueueC@{shape: subproc, label: 仓储系统队列} ConsumerA1([日志系统实例]) ConsumerB1([消息系统实例]) ConsumerC1([仓储系统实例1]) ConsumerC2([仓储系统实例2]) ConsumerC3([仓储系统实例3]) style Producer fill:#003d5b,color:white,stroke:#003d5b style Exchange fill:black,color:white,stroke:black style QueueA fill:#926c15,color:white,stroke:white style QueueB fill:#926c15,color:white,stroke:white style QueueC fill:#926c15,color:white,stroke:white style ConsumerA1 fill:#606c38,color:white,stroke:white style ConsumerB1 fill:#606c38,color:white,stroke:white style ConsumerC1 fill:#666,color:white,stroke:white style ConsumerC2 fill:#606c38,color:white,stroke:white style ConsumerC3 fill:#666,color:white,stroke:white Producer --发布---> Exchange Exchange --绑定---> QueueA --消费---> ConsumerA1 Exchange --绑定---> QueueB --消费---> ConsumerB1 Exchange --绑定---> QueueC QueueC --消费---> ConsumerC1 QueueC --消费---> ConsumerC2 QueueC --消费---> ConsumerC3

四种主要 Exchange 类型

RabbitMQ主要有四种核心的Exchange类型:Fanout(广播)、Direct(精确匹配)、Topic(模式匹配)和Headers(按头匹配),它们决定了消息如何从交换机路由到队列,其中Direct、Topic、Fanout最常用,而Headers和一些插件类型(如x-delayed-message)提供更灵活的路由功能。

  1. Fanout (扇出)

    • 特点:将消息广播到所有绑定到它的队列。
    • 路由规则:忽略路由键 (Routing Key)。
    • 场景:适用于日志系统、通知广播等需要消息分发到多个消费者的场景。
  2. Direct (直连)

    • 特点:消息根据与队列绑定的精确路由键来路由。
    • 路由规则消息的 Routing Key 必须完全 匹配 队列绑定的 Routing Key
    • 场景:一个消费者处理特定类型的任务,如处理"用户注册"消息。
  3. Topic (主题)

    • 特点 :使用通配符(* 匹配一个词,# 匹配零个或多个词)进行模式匹配路由。
    • 路由规则消息的 Routing Key 模式需要与 队列绑定的模式 匹配。
    • 场景 :日志级别过滤,如logs.info.* 匹配所有 info 级别的日志,logs.# 匹配所有日志.
  4. Headers (头部)

    • 特点:根据消息的 Headers 属性(键值对)进行路由,而不是 Routing Key。
    • 路由规则:匹配消息 Headers 中的键值对与绑定时设置的键值对。
    • 场景:当需要根据复杂属性匹配时,较少使用,因为性能不如前三者。

Demo

后面我将会提供以上方案的具体实现,包含Java.net两种版本。

相关推荐
编程彩机4 小时前
互联网大厂Java面试:从分布式架构到大数据场景解析
java·大数据·微服务·spark·kafka·分布式事务·分布式架构
難釋懷7 小时前
分布式锁-redission锁重试和WatchDog机制
分布式
AC赳赳老秦8 小时前
DeepSeek 辅助科研项目申报:可行性报告与经费预算框架的智能化撰写指南
数据库·人工智能·科技·mongodb·ui·rabbitmq·deepseek
kobe_t9 小时前
分布式定时任务系列14:XXL-job的注册模型
分布式
Knight_AL10 小时前
线程池满了怎么办?用 RabbitMQ 做任务补偿不丢失
分布式·rabbitmq·ruby
猿小羽10 小时前
深入理解 Microservice Control Proxy(MCP) 的 AI 实战指南
微服务·ai·推荐系统·service mesh·microservice·mcp·ai 实战
坊钰11 小时前
【Rabbit MQ】Rabbit MQ 介绍
java·rabbitmq
難釋懷12 小时前
分布式锁-redission锁的MutiLock原理
分布式
掘根12 小时前
【即时通讯系统】项目框架与微服务拆分设计
微服务·云原生·架构
小北方城市网13 小时前
RabbitMQ 生产级实战:可靠性投递、高并发优化与问题排查
开发语言·分布式·python·缓存·性能优化·rabbitmq·ruby