RabbitMQ之消费者可靠性

1.消费者确认机制

为了确认消费者是否成功处理消息,RabbitMQ提供了消费者确认机制(Consumer Acknowledgement)。当消费者处理消息结束后,应该向RabbitMQ发送一个回执,告诉RabbitMQ自己消息处理状态。

回执值 含义
ack 成功处理消息,RabbitMQ从队列中删除该消息
nack 消息处理失败,RabbitMQ需要再次投递消息
reject 消息处理失败并拒绝该消息,RabbitMQ从队列中删除该消息

SpringAMQP已经实现了消息确认功能。并允许我们通过配置文件选择回执值的处理方式

yaml 复制代码
spring:
  # RabbitMQ相关配置
  rabbitmq:
    listener:
      simple:
        # ACK处理方式
        acknowledge-mode: auto
处理方式 含义
none 不处理。即消息投递给消费者后立刻ack,消息会立刻从MQ中删除。非常不安全,不建议使用
manual 手动模式。需要自己在业务代码中调用api,发送ack或reject,存在业务入侵,但更灵活
auto 自动模式。SpringAMQP利用AOP对消息处理逻辑做了环绕增强,当业务正常执行时自动返回ack。当业务出现异常时,根据异常判断返回不同结果:(1)业务异常:自动返回nack (2)消息处理或校验异常:自动返回reject

2.消费失败处理

(1)失败重试机制

在auto模式中,出现nack回执的情况下,消息会不断重新入队到队列,再重新发给消费者,然后再次异常,再次重新入队,无限循环,导致MQ的消息处理飙升,带来不必要的压力。利用Spring的retry机制,在消费者出现异常时利用本地重试,而不是无限制测重新入队

yaml 复制代码
spring:
  # RabbitMQ相关配置
  rabbitmq:
    # 配置虚拟主机名称
    virtual-host: system1
    # RabbitMQ管理端口号:15672;服务端口号:5672
    port: 5672
    # 配置使用者的名称和密码
    username: guest
    password: guest
    # 配置消费者信息
    listener:
      simple:
        # 设置消费者回执值的处理模式
        acknowledge-mode: auto
        retry:
          # 开启消费者失败重试
          enabled: true
          # 初始的失败重试时间间隔
          initial-interval: 1000ms
          # 间隔递增系数,下次等待时长 = multiplier * 上次等待时长
          multiplier: 1
          # 最大重试次数
          max-attempts: 3
          # true无状态;false有状态。如果业务中包含事务,需要设置为false
          stateless: true

(2)失败消息处理策略

在开启重试模式后,重试次数耗尽,如果消息依然失败,则需要有MessageRecoverer接口来处理,该接口有三种不同的实现

实现类 作用
RejectAndDontRequeueRecoverer 重试耗尽后,直接reject,丢弃消息。默认是这种方式
ImmediateRequeueMessageRecoverer 重试耗尽后,返回nack,消息重新入队
RepublishMessageRecoverer 重试耗尽后,将失败消息投递到指定的交换机

RepublishMessageRecoverer 实现类代码示例

java 复制代码
import org.springframework.amqp.core.Binding;
import org.springframework.amqp.core.BindingBuilder;
import org.springframework.amqp.core.Queue;
import org.springframework.amqp.core.TopicExchange;
import org.springframework.amqp.rabbit.core.RabbitTemplate;
import org.springframework.amqp.rabbit.retry.RepublishMessageRecoverer;
import org.springframework.boot.autoconfigure.condition.ConditionalOnProperty;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

@Configuration
@ConditionalOnProperty(name = "spring.rabbitmq.listener.simple.retry.enabled", havingValue = "true")
public class MessageErrorConfiguration {
    // 定义交换机
    @Bean
    public TopicExchange topicExchange() {
        return new TopicExchange("topic-exchange-1");
    }

    // 定义队列
    @Bean
    public Queue messageErrorQueue() {
        return new Queue("message-error-queue-1");
    }

    // 定义交换机和队列的绑定方式
    @Bean
    public Binding messageErrorBinding() {
        return BindingBuilder.bind(messageErrorQueue()).to(topicExchange()).with("message.error");
    }

    //定义RepublishMessageRecoverer实现类消息失败处理策略
    @Bean
    public RepublishMessageRecoverer republishMessageRecoverer(RabbitTemplate rabbitTemplate) {
        return new RepublishMessageRecoverer(rabbitTemplate,"topic-exchange-1", "message.error");
    }
}

3.业务幂等性

在有消费者确认机制和消费失败处理的情况下可以保证每个消息至少被消费一次。也可能存在消费者已经消费了消息,但是因为某种原因MQ没接收到回执信号导致MQ再次给消费者发消息的重复消费现象。这时要考虑重复消费带来的业务幂等性,以下是两种保证业务幂等性的解决方案

**幂等:**在程序开发中,则是指同一个业务,执行一次或多次对业务状态的影响是一致的
(1)唯一消息ID

给每个消息都生成一个唯一ID,利用ID区分是否是重复消息:每一条消息都生成一个唯一的ID,与消息一起投递给消费者。消费者接收到消息后处理自己的业务,业务处理成功后将消息ID保存到数据库。如果下次收到相同消息,去数据库查询判断是否存在,存在则为重复消息放弃处理

java 复制代码
    @Bean
    public Jackson2JsonMessageConverter jackson2JsonMessageConverter() {
        Jackson2JsonMessageConverter jackson2JsonMessageConverter = new Jackson2JsonMessageConverter();
        jackson2JsonMessageConverter.setCreateMessageIds(true);
        return jackson2JsonMessageConverter;
    }

(2)业务判断

结合业务逻辑,基于业务本身做判断

相关推荐
JDS_DIJ11 分钟前
RabbitMQ
java·rabbitmq·java-rabbitmq
silver988640 分钟前
分布式相关杂项
分布式
jerry6097 小时前
7天用Go从零实现分布式缓存GeeCache(改进)(未完待续)
分布式·缓存·golang
古人诚不我欺8 小时前
jmeter常用配置元件介绍总结之分布式压测
分布式·jmeter
星染xr10 小时前
kafka 生产经验——数据积压(消费者如何提高吞吐量)
分布式·kafka
东方巴黎~Sunsiny10 小时前
如何监控Kafka消费者的性能指标?
分布式·kafka
飞升不如收破烂~10 小时前
kafka
分布式·kafka
简 洁 冬冬11 小时前
037 RabbitMQ集群
rabbitmq·集群
龙哥·三年风水12 小时前
群控系统服务端开发模式-应用开发-前端个人信息功能
分布式·vue·群控系统
小码哥呀13 小时前
RabbitMQ集群搭建
分布式·rabbitmq