RabbitMQ 高级特性之消息分发

1. 为什么要消息分发

当 broker 拥有多个消费者时,就会将消息分发给不同的消费者,消费者之间的消息不会重复,RabbitMQ 默认的消息分发机制是轮询,但会无论消费者是否发送了 ack,broker 都会继续发送消息至消费者,这就会造成消费者压力增大。于是,可以限制消费者每一次接收到的消息的数量,当消息达到该数量时,broker 就不会继续给这个消费者发送消息,而是会给其他的消费者派送消息。

所消费者消费了一条消息,并且给 broker 发送了 ack,那么此时消费者所未消耗的消息就没有达到最大消息数量,于是 broker 就会继续给消费者分配消息,直到消费者未消费的消息数量达到上限。

对于这种特性,有下面两个应用场景:

1.1 限流

在某些秒杀场景中,每一秒消费者接收到的消息都会非常大,那么就会造成消费者压力过大。于是我们就可以限制消费者所能接收的最大消息数量。

配置代码如下:

复制代码
spring:
  rabbitmq:
    listener:
      simple:
        acknowledge-mode: manual
        prefetch: 5 #每个队列最多接收五条消息

在配置中,prefetch 表示队列中的消息数量上限为 5 条,若队列中未确认的消息数量达到 5 条,此时 broker 就不会继续给该队列分配消息,而是给其它的未达到上限的队列分配消息。

并且此处要设置为手动确认,若使用 auto 或 none,可能业务逻辑还没有开始消息就已经被签收,这就无法发挥限流的作用。

队列、交换机声明代码如下:

java 复制代码
    @Bean("qosQueue")
    public Queue qosQueue() {
        return QueueBuilder.durable(Constants.QOS_QUEUE).build();
    }

    @Bean("qoeExchange")
    public DirectExchange qoeExchange() {
        return ExchangeBuilder.directExchange(Constants.QOS_EXCHANGE).build();
    }

    @Bean("qosBind")
    public Binding qosBind(@Qualifier("qoeExchange") DirectExchange directExchange,
                           @Qualifier("qosQueue") Queue queue) {
        return BindingBuilder.bind(queue).to(directExchange).with(Constants.QOS_ROUTINGKEY);
    }

生产者代码如下:

java 复制代码
    @RequestMapping("/qos")
    public String qos() {
        for (int i = 0; i < 20; i++) {

            String messageInfo = "qos... " + i;

            rabbitTemplate.convertAndSend(Constants.QOS_EXCHANGE, Constants.QOS_ROUTINGKEY, messageInfo);
        }

        return "消息发送成功";
    }

消费者代码如下:

java 复制代码
@Component
@Slf4j
public class QosListener {

    @RabbitListener(queues = Constants.QOS_QUEUE)
    public void listener1(Message message, Channel channel) throws IOException {
        String messageInfo = new String(message.getBody());
        long deliveryTag = message.getMessageProperties().getDeliveryTag();

        log.info("接收到消息: {}, deliveryTag: {}", messageInfo, deliveryTag);
    }

}

此处,消费者没有给 broker 发送 ack,那么队列中的消息就会一直存在。

代码运行结果如下:

这里我们可以看到,一共有 5 条未确认的消息, 已经达到了上限,于是就不会继续向消费者发送消息。

1.2 负载均衡

使用消息分发,也可以实现负载均衡。

现有两个消费者 A、B,A 处理消息的速度慢,B处理消息的速度快。若不设置负载均衡,那么就会出现 A 积压的消息过多,而 B 几乎没有什么消息挤压,这就没有充分地利用资源。

于是我们可以将 prefetch 设置为 1,那么每次消费者只会接收到一条消息,当 A、B 接收到消息后,在 B 处理完成时 A 还没有处理完,于是 broker 就会给 B 继续推送消息,直到 A 处理完成后才会继续给 A 推送消息。

消费者代码如下:

java 复制代码
@Component
@Slf4j
public class QosListener {

    /**
     * 消费者1
     * @param message
     * @param channel
     * @throws IOException
     */
    @RabbitListener(queues = Constants.QOS_QUEUE)
    public void listener1(Message message, Channel channel) throws IOException {
        String messageInfo = new String(message.getBody());
        long deliveryTag = message.getMessageProperties().getDeliveryTag();

        log.info("消费者 1 接收到消息: {}, deliveryTag: {}", messageInfo, deliveryTag);
        try {
            Thread.sleep(2000);
            channel.basicAck(deliveryTag, false);
        } catch (IOException e) {

            channel.basicNack(deliveryTag, false, true);
        } catch (InterruptedException e) {
            throw new RuntimeException(e);
        }
    }

    /**
     * 消费者2
     * @param message
     * @param channel
     * @throws IOException
     */
    @RabbitListener(queues = Constants.QOS_QUEUE)
    public void listener2(Message message, Channel channel) throws IOException {
        String messageInfo = new String(message.getBody());
        long deliveryTag = message.getMessageProperties().getDeliveryTag();

        log.info("消费者 2 接收到消息: {}, deliveryTag: {}", messageInfo, deliveryTag);
        try {
            Thread.sleep(1000);
            channel.basicAck(deliveryTag, false);
        } catch (IOException e) {

            channel.basicNack(deliveryTag, false, true);
        } catch (InterruptedException e) {
            throw new RuntimeException(e);
        }
    }
}

上述代码,将消费者 2 的处理速度是消费者 1 的两倍,代码运行结果如下:

可以看出,消费者 2 每消耗 2 条数据,消费者 1 才消耗 1 条数据。,也就达到了负载均衡的作用。

相关推荐
shehuiyuelaiyuehao14 分钟前
算法29,前缀和,除自身以外的数组的乘积
java·数据结构·算法
小刘在重生~30 分钟前
Java常用类|String类详解 + BigDecimal精准计算(含面试题)
java·开发语言·python
随遇而安zx32 分钟前
【多线程】---JMM 与 volatile 深度解析
java·多线程
邪修king1 小时前
Re:Linux系统篇(十九):进程篇(八): 进程等待详解:wait/waitpid,僵尸进程到底该如何回收
java·开发语言
啵啵啵鱼1 小时前
DS-顺序表
java·数据结构·笔记·后端·链表·obsidian
TinyMemory1 小时前
Java 面向对象核心入门(七):方法重载 Overload,同一个方法名能干不一样的活
java·面向对象·overload·方法重载
吴声子夜歌2 小时前
Java扩展——OkHttp
java·开发语言·okhttp
卓怡学长2 小时前
w210基于springboot反诈平台设计与实现
java·spring boot·spring·intellij-idea
萧瑟余晖2 小时前
Java深入解析篇六十一之编译器API(javax.tools)详解
java·开发语言