【RabbitMQ】 RabbitMQ 消息的延迟 —— 深入探索 RabbitMQ 的死信交换机，消息的 TTL 以及延迟队列

求知.2023-11-06 12:18

文章目录

  • 一、死信交换机
    • [1.1 什么是死信和死信交换机](#1.1 什么是死信和死信交换机)
    • [1.2 死信交换机和死信队列的创建方式](#1.2 死信交换机和死信队列的创建方式)
  • [二、消息的 TTL](#二、消息的 TTL)
    • [2.1 什么是消息的 TTL](#2.1 什么是消息的 TTL)
    • [2.2 基于死信交换机和 TTL 实现消息的延迟](#2.2 基于死信交换机和 TTL 实现消息的延迟)
  • [三、基于 DelayExchang 插件实现延迟队列](#三、基于 DelayExchang 插件实现延迟队列)
    • [3.1 安装 DelayExchang 插件](#3.1 安装 DelayExchang 插件)
    • [3.2 DelayExchang 实现消息延迟的原理](#3.2 DelayExchang 实现消息延迟的原理)
    • [3.3 使用 DelayExchang 实现消息的延迟](#3.3 使用 DelayExchang 实现消息的延迟)

消息队列是现代分布式应用中的关键组件，用于实现异步通信、解耦系统组件以及处理高并发请求。消息队列可以用于各种应用场景，包括任务调度、事件通知、日志处理等。在消息队列的应用中，有时需要实现消息的延迟处理、处理未能成功消费的消息等功能。

本文将介绍一些与消息队列相关的关键概念和技术，包括死信交换机（Dead Letter Exchange）、消息的 TTL（Time To Live，生存时间）、以及使用 DelayExchange 插件实现消息的延迟处理。通过深入理解这些概念和技术，将能帮助我们更好地设计和构建具有高可用性和可靠性的消息队列系统。

首先，我将介绍死信交换机以及它的作用，然后讨论如何创建死信交换机和死信队列。随后，将深入研究消息的TTL，了解它的作用和如何配置。最后，将探讨如何使用 DelayExchange 插件来实现消息的延迟处理，以满足各种应用需求。

一、死信交换机

1.1 什么是死信和死信交换机

在了解什么是死信交换机之前，让我们首先来了解一下什么是死信。 在消息队列系统中，死信（Dead Letter）是指未能被成功消费的消息。这些消息通常由于多种原因而变为死信，一些主要的原因如下：

  • 消费失败： 当消息被消费者（consumer）拒绝（reject）或未能被确认（acknowledge），并且针对与处理失败的消息没有设置重新入队（requeue）参数时，它们可能成为死信。这可能是因为消息格式错误、业务处理失败、或者其他原因导致消费者无法处理消息。

  • 消息超时： 消息在队列中等待消费，但在一定时间内未被消费者处理。这个时间限制通常由消息的 TTL（Time To Live，生存时间）来定义。当消息超过其 TTL 后，它就变为死信。

  • 队列堆积满： 当消息队列积累了大量消息，无法容纳更多消息时，最早的消息可能成为死信，因为它们无法被及时处理。

因此为了处理这些死信消息，消息队列系统引入了 死信交换机（Dead Letter Exchange）。死信交换机是一个特殊的交换机，它接收死信消息，并根据规则将这些消息路由到死信队列。通过使用死信交换机，系统可以将死信消息从正常队列中分离出来，以便进一步处理或分析。

死信交换机通常与队列绑定，当队列中的消息变为死信时，它们会被发送到与之相关联的死信交换机，然后再路由到死信队列。这种机制使得系统能够更好地处理消息的异常情况，确保消息不会被永久丢失。

给队列绑定死信交换机的方法：

  • 给队列设置dead-letter-exchange属性，指定一个交换机；
  • 给队列设置dead-letter-routing-key属性，设置死信交换机与死信队列的 RoutingKey。

如下图所示：

在上图中，simple.queue 就与死信交换机 dl.direct 绑定，最后路由到死信队列dl.queue，后续就可以编写其他逻辑来处理死信队列中的消息。

死信和死信交换机是构建可靠消息处理系统的重要组成部分，它们能够帮助我们跟踪和处理未能成功消费的消息，确保数据不会遗失，同时提供更好的可用性和可维护性。

1.2 死信交换机和死信队列的创建方式

  1. 使用 @Bean 的方式创建：
java 复制代码 
// 声明普通的 simple.queue 队列，并且为其指定死信交换机：dl.direct
@Bean
public Queue simpleQueue(){
    return QueueBuilder.durable("simple.queue") // 指定队列名称，并持久化
        .deadLetterExchange("dl.direct") // 指定死信交换机
        .build();
}

// 声明死信交换机 dl.direct
@Bean
public DirectExchange dlExchange(){
    return new DirectExchange("dl.direct", true, false);
}

// 声明存储死信的队列 dl.queue
@Bean
public Queue dlQueue(){
    return new Queue("dl.queue", true);
}

// 将死信队列 与 死信交换机绑定
@Bean
public Binding dlBinding(){
    return BindingBuilder.bind(dlQueue()).to(dlExchange()).with("simple");
}
  1. 使用 @RabbitListener 注解的方式创建：
java 复制代码 
@RabbitListener(bindings = @QueueBinding(
        value = @Queue(name = "dl.queue", durable = "true"),
        exchange = @Exchange(name = "dl.direct"),
        key = "dl"
))
public void listenDLQueue(String msg) {
    log.info("消费者接收到 dl.queue 的延迟消息：" + msg);
}

在这种情况下，注意需要在创建 simple.queue 是时候，绑定死信交换机。

二、消息的 TTL

2.1 什么是消息的 TTL

消息的TTL，全称为"Time To Live"，是消息队列系统中的一个重要概念。它定义了消息在队列中存活的时间，也就是消息在被发送到队列后，允许存留在队列中的时间长度。一旦消息的TTL超过设定的时间，消息将被认为已过期，消息队列系统将会将其标记为死信（Dead Letter）并将其路由到相关的死信队列。

在消息队列中，消息的超时分为两种情况：

  1. 消息所在的队列设置了储存消息的超时时间；

  2. 消息本身设置了超时时间；

但是不管哪种情况，一定消息超时了，都会成为死信，如下图所示：

对上图的简单解释：

  • 上图中，设置了ttl.queue 的超时时间为 10000 毫秒，意味着一个消息在该队列中储存的时间不会超过这么长的时间；
  • 另外，也可以在发送消息的时候给这个消息设置在队列中的超时时间，例如 5000 毫秒。
  • 无论是哪种情况，一旦消息超时了，都会发送到死信交换机，然后再路由死信队列，最后由处理死信的逻辑处理这些消息。

2.2 基于死信交换机和 TTL 实现消息的延迟

根据上面的死信交换机和 TTL 的特点，我们可以实现延迟处理消息的功能，TTL 和 死信的交换机及其队列的结构图示如下：

下面就使用 Spring AMQP 来声明和实现这些交换机和队列：

  1. 首先通过 @RabbitListener 注解声明一组死信交换机和死信队列，并指定处理死信的逻辑：

    java 复制代码 
    @RabbitListener(bindings = @QueueBinding(
        value = @Queue(name = "dl.queue", durable = "true"),
        exchange = @Exchange(name = "dl.direct"),
        key = "dl"
))
public void listenDLQueue(String msg) {
    log.info("消费者接收到 dl.queue 的延迟消息：" + msg);
}

  2. 然后通过 @Bean 的方式声明一组 TTL 的交换机和队列

    java 复制代码 
    /**
 * 声明 TTL 交换机
 */
@Bean
public DirectExchange ttlDirectExchange() {
    return new DirectExchange("ttl.direct", true, false);
}

/**
 * 声明 TTL 队列
 * 1. 指定消息的 TTL
 * 2. 指定死信交换机
 * 3. 指定死信交换机的 RoutingKey
 */
@Bean
public Queue ttlQueue() {
    return QueueBuilder
            .durable("ttl.queue") // 指定队列的名称
            .ttl(10_000) // 指定 TTL 为 10 秒
            .deadLetterExchange("dl.direct") // 指定死信交换机
            .deadLetterRoutingKey("dl") // 指定死信交换机的 RoutingKey
            .build();
}

/**
 * 绑定 TTL 交换机和队列
 */
@Bean
public Binding ttlBinding() {
    return BindingBuilder.bind(ttlQueue()).to(ttlDirectExchange()).with("ttl");
}

  3. 最后，在publisher 中编写发送消息的逻辑

    java 复制代码 
    @Test
public void testTTLMessage() {
    // 1. 创建消息
    Message message = MessageBuilder.withBody("hello, ttl message".getBytes(StandardCharsets.UTF_8))
            .setDeliveryMode(MessageDeliveryMode.PERSISTENT)
            .build();
    // 2. 创建消息ID
    CorrelationData correlationData = new CorrelationData(UUID.randomUUID().toString());
    // 3. 发送消息
    rabbitTemplate.convertAndSend("ttl.direct", "ttl", message, correlationData);
    log.info("发送延迟消息成功！消息ID: {}", correlationData.getId());
}
    1. 验证延迟消息

在创建ttl.queue的时候，指定了消息在队列中的 TTL 不超过 10 秒，因此预测当发送消息 10s 后，才会被消费者接收：

首先启动 consumer，并清除控制台日志，然后再发送消息：

通过对比控制台日志的时间，可以发现成功将消息延迟了 10 秒。

另外，也可以在发送消息时设置超时时间，可以通过 MessageBuilder 中的 setExpiration 设置消息的超时时间，这里设置为 5 秒：
再次发送消息，并对比观察控制台日志的输出时间：

可以发现，此时消息延迟了 5 秒，通过上面的对比演示可以得出结论：那就是在同时指定了消息的过期时间以及队列的超时时间，将会以短的那个时间为准。

三、基于 DelayExchang 插件实现延迟队列

3.1 安装 DelayExchang 插件

  1. 下载插件

RabbitMQ 有一个官方的插件社区，地址为：https://www.rabbitmq.com/community-plugins.html。其中包含各种各样的插件，包括我们要使用的 DelayExchange 插件：

这里我选择的是 3.8.9 的版本：

  1. 上传插件

这里我的 RabbitMQ 是基于 Docker 安装的，因此需要先查看 RabbitMQ 的插件目录对应的数据卷：

然后，直接进入数据卷挂载点目录：
可以发现这个目录下其实以及有很多的插件的了，然后上传刚才下载的插件到这个目录：

  1. 安装插件

最后就是安装了，安装时需要进入 MQ 容器内部来执行安装。我的容器名为mq，所以执行下面命令：

sh 复制代码 
docker exec -it mq bash

然后执行安装的命令：

sh 复制代码 
rabbitmq-plugins enable rabbitmq_delayed_message_exchange

最后出现下面的日志，就说明安装 DelayExchang 插件成功了：

3.2 DelayExchang 实现消息延迟的原理

DelayExchange 是一个用于实现消息延迟发送的插件，可以在消息队列系统中非常有用。其工作原理如下：

  1. 创建 DelayExchange：首先，需要创建一个 DelayExchange，这是一个特殊的交换机，用于处理延迟消息。通常，可以使用消息队列系统的管理工具或API（如 Spring AMQP 的API）来声明和配置 DelayExchange。

  2. 发送消息到 DelayExchange ：当需要发送一个延迟消息时，将消息发送到 DelayExchange，而不是直接发送到目标队列。在发送消息时，需要为消息设置一个属性，通常称为 x-delay，它表示消息的延迟时间。这个属性的值通常以毫秒为单位，定义了消息应该延迟多长时间才会被投递。

  3. DelayExchange 检查 x-delay 属性 ：当消息到达DelayExchange时，它会检查消息的 x-delay 属性。如果该属性存在，说明这是一个延迟消息。DelayExchange会将消息持久化到硬盘，并记录 x-delay 的值作为延迟时间。

  4. 返回 Routing Not Found ：DelayExchange 会向消息的发送者返回 "Routing Not Found" 的响应，意味着消息当前没有目标队列可以接收。这是因为消息不会立即被投递，而是需要等待一定的延迟时间。因此如果设置了生产者消息确认的 publisher-return 的 ReturnCallback，就需要进行额外的处理以避免错误的提示。

  5. 延迟时间到期：经过预定的延迟时间后，DelayExchange 会重新检查已存储的消息，查看是否有消息已经到达或超过了其设定的延迟时间。

  6. 重新投递消息：一旦消息的延迟时间到期，DelayExchange将重新投递消息到指定的目标队列，允许消费者最终接收和处理消息。

通过 DelayExchange 的这一机制，可以实现消息的延迟发送，非常适合需要进行任务调度、处理延迟任务或者在时间敏感任务的应用中使用。它有助于减轻系统负载，提高消息传递的可靠性，以及更好地满足特定的应用需求。

3.3 使用 DelayExchang 实现消息的延迟

  1. 首先，使用 @RabbitListener 注解声明一组延迟交换机和队列，以及延迟消息的处理逻辑。

    java 复制代码 
    @RabbitListener(bindings = @QueueBinding(
        value = @Queue(name = "delay.queue", durable = "true"),
        exchange = @Exchange(name = "delay.direct", delayed = "true"),
        key = "delay"
))
public void listenDelayExchange(String msg) {
    log.info("消费者接收到了 delay.queue 的消息：" + msg);
}

这里使用 @RabbitListener 注解声明交换机和队列和前面的操作基本一致，唯一的区别在于声明交换机的时候，额外设置了一个 delayed 参数，表明声明的是一个延迟交换机。

  1. 在 publisher 中发送延迟消息

    java 复制代码 
    @Test
public void testDelayMessage() {
    // 1. 创建消息
    Message message = MessageBuilder.withBody("hello, delay message".getBytes(StandardCharsets.UTF_8))
            .setDeliveryMode(MessageDeliveryMode.PERSISTENT)
            .setHeader("x-delay", 5000) // 添加 x-delay 头信息
            .build();
    // 2. 创建消息ID
    CorrelationData correlationData = new CorrelationData(UUID.randomUUID().toString());
    // 3. 发送消息
    rabbitTemplate.convertAndSend("delay.direct", "delay", message, correlationData);
    log.info("通过延迟交换机发送延迟消息成功！消息ID: {}", correlationData.getId());
}

同样，此处发送消息的逻辑也和前面基本一致，只是在 MessageBuilder 中使用 setHeader 额外设置了一个x-delay 的头信息，表明了该消息是延迟消息，同时也指定了消息的超时时间。

  1. 验证延迟消息

同样的，首先启动 consumer，清除控制台日志，然后向延迟交换机发送消息：

通过日志可以看到，成功发送了延迟消息，但是却出现了错误的日志信息，告诉我们是delay.direct交换机没有成功将消息路由到 delay.queue中，但是通过 consumer 的控制台在延迟 5 秒后发现成功接收并处理了这个消息：

出现上面错误日志的原则在上文的 DelayExchang 实现消息延迟的原理中的第 4 点已经提到了，使用 DelayExchang 实现消息的延迟，是会在达到了设置延迟时间，再将消息发送给队列的。但是，由于交换机在收到消息的时候，没有立即路由给队列，在返回确认消息给生产者的就是"Routing Not Found"，因此就会使得生产者误以为路由失败了。

另外，在上面的错误日志中，可以发现有一个 receivedDelay 参数的值是 5000，也就是延迟的时间，我们可以根据这个参数，在 RetuenCallback 中排除发送延迟消息时产生的的错误提示：

然后，再次发送延迟消息到延迟交换机，就不会出现上面的错误提示了：

至此，我们便成功使用 DelayExchang 实现了发送延迟消息的功能。可以发现，使用 DelayExchang 插件实现延迟消息比前面使用死信交换机和 TTL 来实现延迟消息更加的简单。

相关推荐
bug_null1 天前
RabbitMQ消息可靠性保证机制4--消费端限流
rabbitmq
青石路1 天前
不依赖 Spring，你会如何自实现 RabbitMQ 消息的消费（一）
rabbitmq
呼啦啦啦啦啦啦啦啦1 天前
【Rabbitmq篇】RabbitMQ⾼级特性----持久性，发送⽅确认，重试机制
分布式·rabbitmq
斯普信专业组2 天前
RabbitMQ实战启程：从配置到故障排查的实战处理（下）
网络·分布式·rabbitmq
呼啦啦啦啦啦啦啦啦2 天前
【Rabbitmq篇】RabbitMQ⾼级特性----消息确认
分布式·rabbitmq
泰山小张只吃荷园2 天前
快速入门消息队列MQ、RabbitMQ
java·spring boot·分布式·spring·spring cloud·rabbitmq·java-rabbitmq
呼啦啦啦啦啦啦啦啦2 天前
基于SpringBoot+RabbitMQ完成应⽤通信
spring boot·rabbitmq·java-rabbitmq
小马爱打代码2 天前
SpringBoot 整合 RabbitMQ
spring boot·rabbitmq·java-rabbitmq
漫天转悠4 天前
RabbitMQ的基本概念和入门
分布式·rabbitmq
dvlinker4 天前
大数据技术Kafka详解 ① | 消息队列（Messages Queue）
大数据·kafka·rabbitmq·rocketmq·activemq·分布式发布订阅消息系统·messages queue
热门推荐
01(欧拉)openEuler系统添加网卡文件配置流程、(欧拉)openEuler系统手动配置ipv6地址流程、(欧拉)openEuler系统网络管理说明02PyTorch机器学习实现液态神经网络03【HarmonyOS】HUAWEI DevEco Studio 下载地址汇总04玄机平台应急响应—webshell查杀05Coze扣子平台完整体验和实践（附国内和国际版对比）06Ubuntu 20.04使用Livox mid 360 测试 FAST_LIO07【目标跟踪】相机运动补偿08Unity中PICO实现 隔空取物 和 接触抓取物体09RAG 实践- Ollama+RagFlow 部署本地知识库10怎样让音频速度变慢？请跟随以下方法进行操作