记一次rabbitmq消息发送成功,消费丢失问题

记一次rabbitmq消息发送成功,消费丢失问题

背景

测试数据归档,偶现数据未归档

排查

idea线上调试,log日志,数据库消息发送记录,代码分块重复执行看哪块出的问题,结果均无问题,最后使用rabbitmq trace日志,发现问题所在

如何查看rabbitmq日志,Rabbitmq Trace日志的使用

1. 什么是Trace

Trace 是Rabbitmq用于记录每一次发送的消息,方便使用Rabbitmq的开发者调试、排错。可通过插件形式提供可视化界面

2. Trace实现概况

1、Trace启动后会自动创建系统Exchange:amq.rabbitmq.trace

2、每个队列会自动绑定该Exchange,绑定后发送到队列的消息都会记录到Trace日志

3. 查看列表

rabbitmq-plugins list

4. 启动Trace插件

rabbitmqctl trace_on

5. 启动日志插件命令

rabbitmq-plugins enable rabbitmq_tracing

6. 到管理页面添加Tracing,没有请执行4、5后重启rabbitmq

点击"Admin"菜单,右边会多出一个"Tracing"的菜单,填写Name、Format、Max payload bytes、Pattern 然后点击"添加Add trace"即可添加一个日志

日志可直接点击查看

Name:自定义,建议标准点容易区分

Format:表示输出的消息日志格式,有Text和JSON两种,Text格式的日志方便人类阅读,JSON的方便程序解析。

JSON格式的payload(消息体)默认会采用Base64进行编码,如上面的"trace test payload."会被编码成"dHJhY2UgdGVzdCBwYXlsb2FkLg=="。

Max payload bytes:表示每条消息的最大限制,单位为B。比如设置了了此值为10,那么当有超过10B的消息经过Rabbit MQ流转时,在记录到trace文件的时候会被截断。

如上text日志格式中"trace test payload."会被截断成"trace test"。

Pattern:用来设置匹配的模式,和Firehose的类似。如"#"匹配所有消息流入流出的情况,即当有客户端生产消息或者消费消息的时候,会把相应的消息日志都记录下来;

"publish.#"匹配所有消息流入的情况;"deliver.#"匹配所有消息流出的情况;"publish.exchange.b2b.gms.ass"只匹配发送者(Exchanges)为exchange.b2b.gms.ass的所有消息流入的情况。

结论

多出一台测试服务器,数据被老代码消费,解决方式,结束多余服务器的服务

防止以后再次发生,可以更换消息模式

代码消费,解决方式,结束多余服务器的服务

防止以后再次发生,可以更换消息模式

相关推荐
丁总学Java18 分钟前
maxwell 输出消息到 kafka
分布式·kafka·maxwell
海里真的有鱼2 小时前
Spring Boot 项目中整合 RabbitMQ,使用死信队列(Dead Letter Exchange, DLX)实现延迟队列功能
开发语言·后端·rabbitmq
喜欢猪猪2 小时前
深度解析ElasticSearch:构建高效搜索与分析的基石原创
分布式
蘑菇蘑菇不会开花~3 小时前
分布式Redis(14)哈希槽
redis·分布式·哈希算法
问道飞鱼4 小时前
分布式中间件-Pika一个高效的分布式缓存组件
分布式·缓存·中间件
小宋10215 小时前
玩转RabbitMQ声明队列交换机、消息转换器
服务器·分布式·rabbitmq
懒洋洋的华36911 小时前
消息队列-Kafka(概念篇)
分布式·中间件·kafka
March€11 小时前
分布式事务的基本实现
分布式
DieSnowK13 小时前
[Redis][环境配置]详细讲解
数据库·redis·分布式·缓存·环境配置·新手向·详细讲解
Lill_bin14 小时前
深入理解ElasticSearch集群:架构、高可用性与数据一致性
大数据·分布式·elasticsearch·搜索引擎·zookeeper·架构·全文检索