基于Raft算法实现的分布式键值对存储系统——学习笔记

目录

[1 基于Raft算法实现的分布式键值对存储系统](#1 基于Raft算法实现的分布式键值对存储系统)

[1.1 模块](#1.1 模块)

[2 Raft 算法](#2 Raft 算法)

[2 .1 概念](#2 .1 概念)

[2.2 raft角色(先简单了解,方便后续阅读)](#2.2 raft角色(先简单了解,方便后续阅读))

[2.3 raft想解决什么问题?](#2.3 raft想解决什么问题?)

[2.4 选举领导](#2.4 选举领导)

[2.5 领导者故障](#2.5 领导者故障)

附录:

参考文献:


▐ 核心要解决的问题

  • 个人学习:Raft 算法要解决的问题,以及算法机制,通过项目理解如何实现raft算法。
  • 项目:深入理解 Raft 算法,深刻理解分布式环境下数据强一致性该如何实现。

有哪些典型业务场景

  • 在绝大部分场景可以保证数据强一致性,比如分布式配置系统系统、分布式 NoSQL 存储等等,轻松突破系统的单机限制。

使用到的技术

  • 蚂蚁金服网络通信框架 SOFA-Bolt(基于 Netty)因为TCP长连接
  • RocksDB是一个高性能、可扩展、嵌入式、持久化的键值存储引擎,广泛应用于大数据领域。

1 基于Raft算法实现的分布式键值对存储系统

1.1 模块

  • 一致性模块,是 Raft 算法的核心实现。重点开发
  • RPC 通信:可以使用 HTTP 短连接,也可以直接使用 TCP 长连接,考虑到集群各个节点频繁通信,同时节点通常都在一个局域网内,因此我们选用 TCP 长连接。长连接框架首选Netty,选用蚂蚁金服网络通信框架 SOFA-Bolt(基于 Netty),便于快速开发。
  • 日志模块:Raft 算法中,日志实现是基础,考虑到时间因素,我们选用 RocksDB 作为日志存储。
  • 状态机:可以是任何实现,其实质就是将日志中的内容进行处理。可以理解为 Mysql binlog 中的具体数据。由于我们是要实现一个 KV 存储,那么可以直接使用日志模块的 RocksDB 组件。

2 Raft 算法

2 .1 概念

Raft 算法是通过一切以领导者为准的方式,实现一系列值的共识和各节点日志的一致。 Raft 算法是分布式系统开发首选的共识算法

总结:通过以下几种方式来进行领导选举,保证了一个任期只有一位领导,极大减少了选举失败的情况。

  • 任期
  • 领导者心跳信息
  • 随机选举超时时间
  • 先来先服务的投票原则
  • 大多数选票原则

2.2 raft角色(先简单了解,方便后续阅读)

跟随者(Follower)普通群众,默默接收和来自领导者的消息,当领导者心跳信息超时的时候,就主动站出来,推荐自己当候选人。

候选人(Candidate)候选人 将向其他节点请求投票 RPC 消息,通知其他节点来投票,如果赢得了大多数投票选票,就晋升当领导者。

领导者(Leader)霸道总裁,一切以我为准。处理写请求、管理日志复制和不断地发送心跳信息,通知其他节点"我是领导者,我还活着,你们不要"发起新的选举,不用找新领导来替代我。

2.3 raft想解决什么问题?

情况一:只有一个服务器,客户端向单节点服务器发送了一条更新操作,一致性非常容易保证。

情况二:如果有多个服务器节点,如何保证一致性就成为问题,假设:客户端对三个服务器节点(也可以叫数据库集群)进行更新操作,如何保证三个节点中存的值一致?

上述问题就是分布式一致问题,Raft 算法就是来解决这个问题的。在多节点集群中,在节点故障、分区错误等异常情况下,Raft 算法如何保证在同一个时间,集群中只有一个领导者呢?

2.4 选举领导

(1)初始状态:集群中所有节点都是跟随者,Term表示任期,一开始都是0。

(2)成为候选者:Raft 算法具有随机超时时间特性,每个节点等待领导者节点心跳信息的超时时间间隔是随机的,可能一个50ms(节点a),一个200ms(节点b),一个300ms(节点c),先超时的人成为候选者,a节点成为候选者,并增加自己的任期编号:把Term 值从0 更新为 1,并给自己投了一票。b,c节点的Term都等于0。

(3)投票(Leader 选举):

  • 第一步 :节点 A 成为候选者后,向其他节点发送请求投票 RPC 信息,请它们选举自己为领导者。
  • 第二步 :节点 B 和 节点 C 接收到节点 A 发送的请求投票信息后,在编号为 1 的这届任期内,还没投票,就把选票投给节点 A,并增加自己的任期编号,Term B,C += 1。
  • 第三步 :节点 A 收到 3 次投票,得到了大多数节点的投票,从候选者成为本届任期内的新的领导者。
  • 第四步 :节点 A 作为领导者,固定的时间间隔给 节点 B 和节点 C 发送心跳信息,告诉节点 B 和 C,我是领导者,组织其他跟随者发起新的选举。
  • 第五步 :节点 B 和节点 C 发送响应信息给节点 A,告诉节点 A 我是正常的。

(4)任期:领导者是有任期的

  • 自动增加 :跟随者在等待领导者心跳信息超时后,推荐自己成为候选人,会增加自己的任期号Term += 1,如上图所示,节点 A 任期为 0,推举自己为候选人时,任期编号增加为 1。
  • 更新为较大值 :当节点发现自己的任期编号比其他节点小时,会更新到较大的编号值。比如节点 A 的任期为 1,请求投票,投票消息中包含了节点 A 的任期编号,且编号为 1,节点 B 收到消息后,会将自己的任期编号更新为 1。
  • 恢复为跟随者 :如果一个候选人或者领导者,发现自己的任期编号比其他节点小,那么它会立即恢复成跟随者状态。这种场景出现在分区错误恢复后,任期为 3 的领导者受到任期编号为 4 的心跳消息,那么前者将立即恢复成跟随者状态。
  • 拒绝消息 :如果一个节点接收到较小的任期编号值的请求,那么它会直接拒绝这个请求,比如任期编号为 6 的节点 A,收到任期编号为 5 的节点 B 的请求投票 RPC 消息,那么节点 A 会拒绝这个消息。

(5)选举规则

  • 一个任期内,领导者一直都会领导者,直到自身出现问题(如宕机),或者网络问题(延迟),其他节点发起一轮新的选举。
  • 在一次选举中,每一个服务器节点最多会对一个任期编号投出一张选票,投完了就没了。

(6) 大多数票才行

假设一个集群由 N 个节点组成,那么大多数就是至少 N/2+1。例如:3 个节点的集群,大多数就是 2。4个也是2.

(7)心跳超时

为了防止多个节点同时发起投票,会给每个节点分配一个随机的选举超时时间。这个时间内,节点不能成为候选者,只能等到超时。比如上述例子,节点 A 先超时,先成为了候选者。这种巧妙的设计,在大多数情况下只有一个服务器节点先发起选举,而不是同时发起选举,减少了因选票瓜分导致选举失败的情况。

2.5 领导者故障

如果领导者节点出现故障,则会触发新的一轮选举。如下图所示,领导者节点 A 发生故障,节点 B 和 节点 C 就会重新选举 Leader。

  • 第一步:节点 A 发生故障,节点 B 和节点 C 没有收到领导者节点 A 的心跳信息,等待超时。
  • 第二步:节点 C 先发生超时,节点 C 成为候选人。
  • 第三步:节点 C 向节点 A 和节点 B 发起请求投票信息。
  • 第四步:节点 C 响应投票,将票投给了 C,而节点 A 因为发生故障了,无法响应 C 的投票请求。
  • 第五步:节点 C 收到两票(大多数票数),成为领导者。
  • 第六步:节点 C 向节点 A 和 B 发送心跳信息,节点 B 响应心跳信息,节点 A 不响应心跳信息,因为 A 故障了。

附录:

无状态服务和有状态服务区别:

造轮子 含义:"造轮子"一词在软件开发领域中通常指的是重复开发已有解决方案的行为,即当面对一个问题时,明明已经有现成的、成熟的解决方案或库可以使用,但开发者仍然选择从头开始编写自己的解决方案。

RocksDB:是一个高性能、可扩展、嵌入式、持久化的键值存储引擎,广泛应用于大数据领域。

Mysql binlog :记录所有更改数据库数据的二进制日志文件。

状态机:

组件的生命周期:组件从被创建到挂载到页面中运行,再到组件不用时卸载的过程。

为什么要管理理以上组件的生命周期:有助于理解组件的运行方式,完成对更复杂的组件功能,分析组件的错误原因;

参考文献:

图示:分布式系统必须知道的一个共识算法:Raft-腾讯云开发者社区-腾讯云

编写你的第一个 Java 版 Raft 分布式 KV 存储 - 莫那·鲁道的技术博客

https://github.com/stateIs0/lu-raft-kv

相关推荐
宅小海11 分钟前
scala String
大数据·开发语言·scala
朝九晚五ฺ11 分钟前
【Linux探索学习】第十四弹——进程优先级:深入理解操作系统中的进程优先级
linux·运维·学习
qq_3273427313 分钟前
Java实现离线身份证号码OCR识别
java·开发语言
锅包肉的九珍14 分钟前
Scala的Array数组
开发语言·后端·scala
心仪悦悦17 分钟前
Scala的Array(2)
开发语言·后端·scala
yqcoder40 分钟前
reactflow 中 useNodesState 模块作用
开发语言·前端·javascript
Swift社区1 小时前
LeetCode - #139 单词拆分
算法·leetcode·职场和发展
baivfhpwxf20231 小时前
C# 5000 转16进制 字节(激光器串口通讯生成指定格式命令)
开发语言·c#
许嵩661 小时前
IC脚本之perl
开发语言·perl
长亭外的少年1 小时前
Kotlin 编译失败问题及解决方案:从守护进程到 Gradle 配置
android·开发语言·kotlin