3分钟,跟着Redist Cluster搞懂分布式协议

前面几篇学习了分布式的几大协议,强一致性的Raft,最终一致性的Gossip,用于负载均衡的一致性哈希及具体实现等等。本篇我们结合Redis Cluster聊聊分布式协议的具体落地实践。

Redis Cluster 概要

Redis Cluster是Redis 分布式部署的方案,它可以自动将数据集通过分片分布在多个Redis节点之间,同时支持动态扩容缩容,并提供故障转移等高可用解决方案。

数据分片--类一致性哈希

如果不了解一致性哈希的,可以看看(图文并茂,讲透一致性哈希,负载均衡绝招 - 掘金 (juejin.cn))

我们知道,Redis Cluster是去中心化的。不同节点存储不同的数据,这必定涉及到分片算法。下面看实现:

Redis Cluster的整个数据分为16384个哈希槽,数据一定属于16384个哈希槽的其中一个,同时一个节点管理一部分哈希槽。所以Redis Cluster实现分片的步骤如下

  1. 通过crc16() 对 Key ,计算出一个 16bit的值
  2. 将16bit值对16384取模
  3. 取模的结果就是数据分布的哈希槽,然后查询出负责该槽位的 Redis节点,进行存储。

大致如下图

怎么说,是不是有点一致性哈希的味道。不对啊,那对应的虚拟节点呢??

其实在集群中,Redis的某一个节点,它可以管理多个范围的哈希槽。比如 某一结点指定负责 0~5461,10922 ~ 14382两部分哈希槽。这不就是 虚拟节点的效果吗🤗🤗。

但要注意,Redis官方也表示没有采用一致性哈希算法,而是借鉴了一致性哈希的思想

高可用选举和信息传播(类Raft和Gossip)

一般Redis集群部署的每个主节点,都会有从节点,以便主节点宕机故障转移。如下图

第一个问题,Redis Cluster如何确定一个master宕机下线? (以上图 MasterA为例)

等等,这不就是一个分布式共识问题吗,由于Redis Cluster是去中心化的,而且要保证可用必须牺牲一致性。根据前面文章的介绍,兼有去中心化和最终一致性两个特点的共识算法 当然是 Gossip协议啦。 关于Gossip可以参考(言简意赅--聊聊分布式Gossip协议 - 掘金 (juejin.cn))

所以Redis使用Gossip协议两两节点交换信息以便来广播自己的状态,如果一个节点发现 某一主节点 例如 master A失联了,则向集群中广播该节点失联。最后确定此masterA下线。

第二个问题,如和在从节点列表选举一个新的主节点?

当 slave A2,slave A3发现自己 master A宕机后,便成为候选人,然后向整个集群中发起选举。当一个slave收到大多数节点投票,就成为新的 masterA。 Raft选举可以参考 我之前写的(言简意赅--聊聊Raft协议 - 掘金 (juejin.cn))

总结

Redis Cluster 通过一致性哈希的思想,实现高效的数据分片。通过Gossip协议进行节点之间的健康检查,通过Raft的选举实现了故障转移,保证了可用性。

市面上分布式组件成百上千,但核心还是那几套协议,一致性协议,选举协议,负载均衡协议等等。

我是爱聊技术的山人,大伙下期再见😊😊😊😊

相关推荐
蜗牛互联网8 分钟前
Java 17调用gpt-transcribe实现会议录音转写与术语提示
java·人工智能·后端
步行cgn11 小时前
Spring 全注解开发详解
java·后端·spring
IT_陈寒14 小时前
SpringBoot启动慢得像蜗牛?原来是这个配置在捣鬼
前端·人工智能·后端
mftang15 小时前
EtherCAT协议:从“飞读飞写”机制到分布式时钟同步的实时以太网架构深度解析
分布式·架构·ethercat·分布式时钟·从站控制器
不才不才不不才16 小时前
Spring 源码系列(29): 20 道高频面试题源码级解析合集
java·后端·spring
索隆zoro16 小时前
Army 的可插拔架构:army-jdbc 与方言模块
java·后端
小蒜学长16 小时前
校园社团招新网站的设计与实现(代码+数据库+LW)
java·数据库·spring boot·后端·校园社团招新网站
蜗牛互联网18 小时前
从Barclays扩大Claude部署看受监管软件工程的责任重分配
java·大数据·人工智能·后端·软件工程
ShineWinsu19 小时前
对于Redis:Hash类型的解析
c++·redis·分布式·缓存·面试·hash·哈希表
周杰伦fans19 小时前
C#对话摘要降低Token消耗
人工智能·后端·c#