3分钟,跟着Redist Cluster搞懂分布式协议

前面几篇学习了分布式的几大协议,强一致性的Raft,最终一致性的Gossip,用于负载均衡的一致性哈希及具体实现等等。本篇我们结合Redis Cluster聊聊分布式协议的具体落地实践。

Redis Cluster 概要

Redis Cluster是Redis 分布式部署的方案,它可以自动将数据集通过分片分布在多个Redis节点之间,同时支持动态扩容缩容,并提供故障转移等高可用解决方案。

数据分片--类一致性哈希

如果不了解一致性哈希的,可以看看(图文并茂,讲透一致性哈希,负载均衡绝招 - 掘金 (juejin.cn))

我们知道,Redis Cluster是去中心化的。不同节点存储不同的数据,这必定涉及到分片算法。下面看实现:

Redis Cluster的整个数据分为16384个哈希槽,数据一定属于16384个哈希槽的其中一个,同时一个节点管理一部分哈希槽。所以Redis Cluster实现分片的步骤如下

  1. 通过crc16() 对 Key ,计算出一个 16bit的值
  2. 将16bit值对16384取模
  3. 取模的结果就是数据分布的哈希槽,然后查询出负责该槽位的 Redis节点,进行存储。

大致如下图

怎么说,是不是有点一致性哈希的味道。不对啊,那对应的虚拟节点呢??

其实在集群中,Redis的某一个节点,它可以管理多个范围的哈希槽。比如 某一结点指定负责 0~5461,10922 ~ 14382两部分哈希槽。这不就是 虚拟节点的效果吗🤗🤗。

但要注意,Redis官方也表示没有采用一致性哈希算法,而是借鉴了一致性哈希的思想

高可用选举和信息传播(类Raft和Gossip)

一般Redis集群部署的每个主节点,都会有从节点,以便主节点宕机故障转移。如下图

第一个问题,Redis Cluster如何确定一个master宕机下线? (以上图 MasterA为例)

等等,这不就是一个分布式共识问题吗,由于Redis Cluster是去中心化的,而且要保证可用必须牺牲一致性。根据前面文章的介绍,兼有去中心化和最终一致性两个特点的共识算法 当然是 Gossip协议啦。 关于Gossip可以参考(言简意赅--聊聊分布式Gossip协议 - 掘金 (juejin.cn))

所以Redis使用Gossip协议两两节点交换信息以便来广播自己的状态,如果一个节点发现 某一主节点 例如 master A失联了,则向集群中广播该节点失联。最后确定此masterA下线。

第二个问题,如和在从节点列表选举一个新的主节点

当 slave A2,slave A3发现自己 master A宕机后,便成为候选人,然后向整个集群中发起选举。当一个slave收到大多数节点投票,就成为新的 masterA。 Raft选举可以参考 我之前写的(言简意赅--聊聊Raft协议 - 掘金 (juejin.cn))

总结

Redis Cluster 通过一致性哈希的思想,实现高效的数据分片。通过Gossip协议进行节点之间的健康检查,通过Raft的选举实现了故障转移,保证了可用性。

市面上分布式组件成百上千,但核心还是那几套协议,一致性协议,选举协议,负载均衡协议等等。

我是爱聊技术的山人,大伙下期再见😊😊😊😊

相关推荐
LKAI.1 分钟前
传统方式部署(RuoYi-Cloud)微服务
java·linux·前端·后端·微服务·node.js·ruoyi
Victor35612 分钟前
Redis(11)如何通过命令行操作Redis?
后端
Victor35613 分钟前
Redis(10)如何连接到Redis服务器?
后端
他日若遂凌云志2 小时前
深入剖析 Fantasy 框架的消息设计与序列化机制:协同架构下的高效转换与场景适配
后端
快手技术2 小时前
快手Klear-Reasoner登顶8B模型榜首,GPPO算法双效强化稳定性与探索能力!
后端
二闹2 小时前
三个注解,到底该用哪一个?别再傻傻分不清了!
后端
tan77º2 小时前
【项目】分布式Json-RPC框架 - 项目介绍与前置知识准备
linux·网络·分布式·网络协议·tcp/ip·rpc·json
用户49055816081252 小时前
当控制面更新一条 ACL 规则时,如何更新给数据面
后端
林太白2 小时前
Nuxt.js搭建一个官网如何简单
前端·javascript·后端
码事漫谈2 小时前
VS Code 终端完全指南
后端