死信队列
概念
死信,顾名思义就是无法被消费的消息,字面意思可以这样理解,一般来说,producer 将消息投递到 broker 或者直接到 queue 里了,consumer 从 queue 取出消息进行消费,但某些时候由于特定的原因导致 queue 中的某些消息无法被消费,这样的消息如果没有后续的处理,就变成了死信,有死信自然就有了死信队列。应用场景:为了保证订单业务的消息数据不丢失,需要使用到 RabbitMQ 的死信队列机制,当消息消费发生异常时,将消息投入死信队列中.还有比如说: 用户在商城下单成功并点击去支付后在指定时间未支付时自动失效。
死信的来源
消息 TTL 过期
队列达到最大长度(队列满了,无法再添加数据到 mq 中)
消息被拒绝(basic.reject 或 basic.nack)并且 requeue=false
死信架构图
代码
消息TTL过期
生产者:
ini
public class Producer {
private final static String NORMAL_EXCHANGE = "normal_exchange";
public static void main(String[] args) throws Exception {
Channel channel = RabbitMqUtils.getChannel();
channel.exchangeDeclare(NORMAL_EXCHANGE, BuiltinExchangeType.DIRECT);
//设置消息的ttl
AMQP.BasicProperties properties=new AMQP.BasicProperties().builder().expiration("10000").
build();
for (int i = 1; i < 11; i++) {
String message = "infor"+i;
channel.basicPublish(NORMAL_EXCHANGE,"zhangsan",properties,message.getBytes());
System.out.println("生产者发送消息"+message);
}
}
}
消费者:
java
public class Consumer {
private final static String NORMAL_EXCHANGE = "normal_exchange";
private final static String DEAD_EXCHANGE = "dead_exchange"; //死信交换机名字
public static void main(String[] args) throws Exception {
Channel channel = RabbitMqUtils.getChannel();
channel.exchangeDeclare(NORMAL_EXCHANGE, BuiltinExchangeType.DIRECT);
channel.exchangeDeclare(DEAD_EXCHANGE, BuiltinExchangeType.DIRECT);
//声明死信队列
String deadQueue = "dead_queue";
channel.queueDeclare(deadQueue,true,false,false,null);
channel.queueBind(deadQueue,DEAD_EXCHANGE,"lisi");
//正常队列 绑定死信队列信息
Map<String,Object> params=new HashMap<>();
//正常队列设置死信交换机 key是固定值
params.put("x-dead-letter-exchange",DEAD_EXCHANGE);
//正常队列 设置死信 routing-key
params.put("x-dead-letter-routing-key","lisi");
String normalQueue="normalQueue";
channel.queueDeclare(normalQueue,false,false,false,params);
channel.queueBind(normalQueue,NORMAL_EXCHANGE,"zhangsan");
System.out.println("等待接受消息");
DeliverCallback deliverCallback = (consumerTag, delivery) -> {
String s = new String(delivery.getBody(), "UTF-8");
System.out.println("控制台打印消息" + s);
};
channel.basicConsume(normalQueue, false, deliverCallback, consumerTag -> {
});
}
}
java
public class Consumer02 {
private final static String DEAD_EXCHANGE = "dead_exchange"; //死信交换机名字
public static void main(String[] args) throws Exception {
Channel channel = RabbitMqUtils.getChannel();
channel.exchangeDeclare(DEAD_EXCHANGE, BuiltinExchangeType.DIRECT);
//声明死信队列
String deadQueue = "dead_queue";
channel.queueDeclare(deadQueue,true,false,false,null);
channel.queueBind(deadQueue,DEAD_EXCHANGE,"lisi");
DeliverCallback deliverCallback = (consumerTag, delivery) -> {
String s = new String(delivery.getBody(), "UTF-8");
System.out.println("控制台打印消息" + s);
};
channel.basicConsume(deadQueue, false, deliverCallback, consumerTag -> {
});
}
}
队列达到最大长度
- 消息生产者代码去掉 TTL 属性
消息被拒
1.消息生产者代码同上生产者一致
2.C1 消费者代码
csharp
DeliverCallback deliverCallback = (consumerTag, delivery) -> {
String s = new String(delivery.getBody(), "UTF-8");
System.out.println("控制台打印消息" + s);
if(s.equals("infor5")){
System.out.println("Consumer01 接收到消息" + s + "并拒绝签收该消息");
//requeue 设置为 false 代表拒绝重新入队 该队列如果配置了死信交换机将发送到死信队列中
channel.basicReject(delivery.getEnvelope().getDeliveryTag(), false);
}else {
System.out.println("Consumer01 接收到消息"+s);
channel.basicAck(delivery.getEnvelope().getDeliveryTag(), false);
}
};
延迟队列
延时队列,队列内部是有序的,最重要的特性就体现在它的延时属性上,延时队列中的元素是希望在指定时间到了以后或之前取出和处理,简单来说,延时队列就是用来存放需要在指定时间被处理的 元素的队列
使用场景
1.订单在十分钟之内未支付则自动取消
2.新创建的店铺,如果在十天内都没有上传过商品,则自动发送消息提醒。
3.用户注册成功后,如果三天内没有登陆则进行短信提醒。
4.用户发起退款,如果三天内没有得到处理则通知相关运营人员。
5.预定会议后,需要在预定的时间点前十分钟通知各个与会人员参加会议
RabbitMQ 中的 TTL
TTL 是 RabbitMQ 中一个消息或者队列的属性,表明一条消息或者该队列中的所有消息的最大存活时间,单位是毫秒。换句话说,如果一条消息设置了 TTL 属性或者进入了设置 TTL 属性的队列,那么这条消息如果在 TTL 设置的时间内没有被消费,则会成为"死信"。如果同时配置了队列的 TTL 和消息的TTL,那么较小的那个值将会被使用,有两种方式设置 TTL。
消息设置TTL
在每条消息设置TTTL
队列设置TTL
在创建队列的时候 设置队列的 "x-message-ttl"属性
整合SpringBoot
1、创建项目
2、添加依赖
3、配置文件
yaml
spring:
rabbitmq:
host: 81.70.190.186
port: 5672
username: admin
password: 123
队列TTL
代码架构图
代码如下:
typescript
@Configuration
public class TtlQueueConfig {
public static final String X_EXCHANGE = "X";
public static final String QUEUE_A = "QA";
public static final String QUEUE_B = "QB";
public static final String Y_DEAD_LETTER_EXCHANGE = "Y";
public static final String DEAD_QUEUE = "QD";
//声明xExchange
@Bean("xExchange")
public DirectExchange xExchange() {
return new DirectExchange(X_EXCHANGE);
}
//声明Y交换机
@Bean("yExchange")
public DirectExchange yExchange() {
return new DirectExchange(Y_DEAD_LETTER_EXCHANGE);
}
//声明队列A 绑定sixin交换机
@Bean("queueA")
public Queue queueA() {
Map<String, Object> args = new HashMap<>();
args.put("x-dead-letter-exchange", Y_DEAD_LETTER_EXCHANGE);
args.put("x-dead-letter-routing-key", "YD");
//声明队列的ttl
args.put("x-message-ttl", 10000);
return QueueBuilder.durable(QUEUE_A).withArguments(args).build();
}
//队列A绑定X交换机
@Bean
public Binding queueBindingX(@Qualifier("queueA") Queue queueA,
@Qualifier("xExchange") DirectExchange xExchange) {
return BindingBuilder.bind(queueA).to(xExchange).with("XA");
}
//声明队列B 绑定sixin交换机
@Bean("queueB")
public Queue queueB() {
Map<String, Object> args = new HashMap<>();
args.put("x-dead-letter-exchange", Y_DEAD_LETTER_EXCHANGE);
args.put("x-dead-letter-routing-key", "YD");
//声明队列的ttl
args.put("x-message-ttl", 40000);
return QueueBuilder.durable(QUEUE_B).withArguments(args).build();
}
//队列B绑定X交换机
@Bean
public Binding queueBindingXB(@Qualifier("queueB") Queue queueB,
@Qualifier("xExchange") DirectExchange xExchange) {
return BindingBuilder.bind(queueB).to(xExchange).with("XB");
}
//声明死信队列
@Bean("deadQueue")
public Queue deadQueue() {
return new Queue(DEAD_QUEUE);
}
//声明死信队列 QD 绑定关系
@Bean
public Binding deadLetterBingQAD(@Qualifier("deadQueue") Queue deadQueue,
@Qualifier("yExchange") DirectExchange yExchange) {
return BindingBuilder.bind(deadQueue).to(yExchange).with("YD");
}
}
发消息代码:
less
@Slf4j
@RequestMapping("/ttl")
@RestController
public class sendController {
@Autowired
private RabbitTemplate rabbitTemplate;
@GetMapping("/sendMsg/{message}")
public void sendmessage(@PathVariable("message") String message) {
log.info("当前时间:{},发送一条信息给两个 TTL 队列:{}", new Date(), message);
rabbitTemplate.convertAndSend("X", "XA", "消息来自 ttl 为 10S 的队列: "+message);
rabbitTemplate.convertAndSend("X", "XB", "消息来自 ttl 为 40S 的队列: "+message);
}
消费代码:
less
@Component
@Slf4j
public class DeadLetterQueueConsumer {
@RabbitListener(queues = "QD")
public void receiveD(Message message, Channel channel) {
String msg = new String(message.getBody());
log.info("当前时间:{},收到死信队列信息{}", new Date().toString(), msg);
}
}
浏览器输入地址 : http://localhost:8080/ttl/sendMsg/嘻嘻嘻
结果如下:
小结:
以上说明了 第一条消息在 10S 后变成了死信消息,然后被消费者消费掉,第二条消息在 40S 之后变成了死信消息,
然后被消费掉,这样一个延时队列就打造完成了。
不过,如果这样使用的话,就要每增加一个新的时间需求,就要新增一个队列,这里只有 10S 和 40S
两个时间选项,如果需要一个小时后处理,那么就需要增加 TTL 为一个小时的队列。
延迟队列优化
新增一个QC的队列绑定关系如下,不指定ttl。
代码:
typescript
@Component
public class MsgTtlQueueConfig {
public static final String Y_DEAD_LETTER_EXCHANGE = "Y";
public static final String QUEUE_C = "QC";
//声明 死信队列 和交换机 关系、
@Bean("queueC")
public Queue queue() {
Map<String, Object> args = new HashMap<>();
//声明当前队列绑定的死信交换机
args.put("x-dead-letter-exchange", Y_DEAD_LETTER_EXCHANGE);
//声明当前队列的死信路由 key
args.put("x-dead-letter-routing-key", "YD");
return QueueBuilder.durable(QUEUE_C).withArguments(args).build();
}
//声明队列 C 绑定 X 交换机
@Bean
public Binding queueBindC(@Qualifier("queueC") Queue queueC,
@Qualifier("xExchange") DirectExchange xExchange) {
return BindingBuilder.bind(queueC).to(xExchange).with("XC");
}
}
less
@GetMapping("/sendExpireMsg/{message}/{ttlTime}")
public void sendmessage(@PathVariable("message") String message,
@PathVariable("ttlTime") String ttlTime) {
rabbitTemplate.convertAndSend("X", "XC", message, correlationData -> {
correlationData.getMessageProperties().setExpiration(ttlTime);
return correlationData;
});
log.info("当前时间:{},发送一条时长{}毫秒 TTL 信息给队列 C:{}", new Date(), ttlTime, message);
}
浏览器发送:
http://localhost:8080/ttl/sendExpireMsg/你好1/20000
http://localhost:8080/ttl/sendExpireMsg/你好/2000
结果:
虽然执行了,但是有一个很大的问题。因为 RabbitMQ 只会检查第一个消息是否过期,如果过期则丢到死信队列,
如果第一个消息的延时时长很长,而第二个消息的延时时长很短,第二个消息并不会优先得到执行。
Rabbitmq 插件实现延迟队列
1、安装延时队列插件
在官网上下载 www.rabbitmq.com/community-p...,下载
rabbitmq_delayed_message_exchange 插件,然后解压放置到 RabbitMQ 的插件目录。
进入 RabbitMQ 的安装目录下的 plgins 目录,执行下面命令让该插件生效,然后重启 RabbitMQ
/usr/lib/rabbitmq/lib/rabbitmq_server-3.8.8/plugins
rabbitmq-plugins enable rabbitmq_delayed_message_exchange
2 、代码架构图
3、配置文件
自定义的交换机中,这是一种新的交换类型,该类型消息支持延迟投递机制 消息传递后并不会立即投递到目标队列中,而是存储在 mnesia(一个分布式数据系统)表中,当达到投递时间时,才投递到目标队列中。
typescript
@Configuration
public class DelayedQueueConfig {
public static final String DELAYED_QUEUE_NAME = "delayed.queue";
public static final String DELAYED_EXCHANGE_NAME = "delayed.exchange";
public static final String DELAYED_ROUTING_KEY = "delayed.routingkey";
@Bean(name = "delayQueue")
public Queue delayQueue() {
return new Queue(DELAYED_QUEUE_NAME);
}
//自定义交换机 这里定义的是一个延迟交换机
@Bean("delayExchange")
public CustomExchange delayExchange() {
Map<String, Object> args = new HashMap<>();
args.put("x-delayed-type", "direct");
return new CustomExchange(DELAYED_EXCHANGE_NAME, "x-delayed-message", true, false, args);
}
@Bean
public Binding bingingDelayQueue(@Qualifier("delayQueue") Queue queue,@Qualifier("delayExchange") CustomExchange delayExchange) {
return BindingBuilder.bind(queue).to(delayExchange).with(DELAYED_ROUTING_KEY).noargs();
}
}
发送消息:
less
public static final String DELAYED_EXCHANGE_NAME = "delayed.exchange";
public static final String DELAYED_ROUTING_KEY = "delayed.routingkey";
@GetMapping("sendDelayMsg/{message}/{delayTime}")
public void sendMsg(@PathVariable String message,@PathVariable Integer delayTime) {
rabbitTemplate.convertAndSend(DELAYED_EXCHANGE_NAME, DELAYED_ROUTING_KEY, message,
correlationData ->{
correlationData.getMessageProperties().setDelay(delayTime);
return correlationData;
});
log.info(" 当 前 时 间 : {}, 发送一条延迟 {} 毫秒的信息给队列 delayed.queue:{}", new
Date(),delayTime, message);
}
消费者:
typescript
public static final String DELAYED_QUEUE_NAME = "delayed.queue";
@RabbitListener(queues = DELAYED_QUEUE_NAME)
public void receiveDelayedQueue(Message message){
String msg = new String(message.getBody());
log.info("当前时间:{},收到延时队列的消息:{}", new Date().toString(), msg);
}
发请求
http://localhost:8080/ttl/sendDelayMsg/come on baby1/20000
http://localhost:8080/ttl/sendDelayMsg/come on baby2/2000
第二个消息被先消费掉了,符合预期
总结
延时队列在需要延时处理的场景下非常有用,使用 RabbitMQ 来实现延时队列可以很好的利用
RabbitMQ 的特性,如:消息可靠发送、消息可靠投递、死信队列来保障消息至少被消费一次以及未被正
确处理的消息不会被丢弃。另外,通过 RabbitMQ 集群的特性,可以很好的解决单点故障问题,不会因为
单个节点挂掉导致延时队列不可用或者消息丢失。
当然,延时队列还有很多其它选择,比如利用 Java 的 DelayQueue,利用 Redis 的 zset,利用 Quartz
或者利用 kafka 的时间轮,这些方式各有特点,看需要适用的场景