Redis----取代RabbitMq 和 Kafka的解决方案

背景

已知rabbitmq和kafka作为消息中间件来给程序之间增加异步消息传递功能,这两个中间件都是专业的,功能也很强,但是有的时候过于复杂,对于只有一组消费者的消息队列,使用Redis 就可以轻松搞定。

异步消息队列

读者可以思考一下他的几种数据结构哪种更适合,string,hash,set,zset,list

是的很明显list',使用rpush/lpush进队列,rpop/lpop出队列

队列空了怎么办

消费者重复快速从队列中消费,那么队列很快就会空,那么就会重复pop操作。浪费生命的空轮询,拉高无用的能耗,通常的解决方案就是让消费线程睡一会,一般1s就够了。

但是又有新问题,如果消费者数量过多,睡眠时间综合起来就太多了,缩短睡眠时间?但还是有别的方案,阻塞读

blpop brpop b前缀是blocking 阻塞

阻塞读是队列为空时会立刻进入休眠状态,一旦数据来了就立即唤醒,基本没有延迟。

看起来是不是完美无缺,但是如果断开链接呢?

线程一直阻塞的话,Redis链接闲置的话,服务器会关闭它,并抛出异常。

延时队列的实现

redis中一种特殊的数据结构,zset,消息序列化成一个字符串作为zset的value,消息的到期时间作为他们的score,用多个线程轮询zset获取到期的任务处理。(多个线程保证可用,一个线程挂了还有其他的)

相关推荐
登云时刻1 小时前
Kubernetes集群外连接redis集群和使用redis-shake工具迁移数据(一)
redis·kubernetes·bootstrap
BestandW1shEs3 小时前
彻底理解消息队列的作用及如何选择
java·kafka·rabbitmq·rocketmq
天冬忘忧3 小时前
Kafka 生产者全面解析:从基础原理到高级实践
大数据·分布式·kafka
天冬忘忧4 小时前
Kafka 数据倾斜:原因、影响与解决方案
分布式·kafka
隔着天花板看星星4 小时前
Kafka-Consumer理论知识
大数据·分布式·中间件·kafka
holywangle4 小时前
解决Flink读取kafka主题数据无报错无数据打印的重大发现(问题已解决)
大数据·flink·kafka
隔着天花板看星星4 小时前
Kafka-副本分配策略
大数据·分布式·中间件·kafka
我一直在流浪5 小时前
Kafka - 消费者程序仅消费一半分区消息的问题
分布式·kafka
B站计算机毕业设计超人7 小时前
计算机毕业设计SparkStreaming+Kafka旅游推荐系统 旅游景点客流量预测 旅游可视化 旅游大数据 Hive数据仓库 机器学习 深度学习
大数据·数据仓库·hadoop·python·kafka·课程设计·数据可视化
煎饼小狗7 小时前
Redis五大基本类型——Zset有序集合命令详解(命令用法详解+思维导图详解)
数据库·redis·缓存