在企业中，一些重要的数据一般存储在硬盘上，虽然硬盘本身的性能也在不断提高，但是无论硬盘的存取速度有多快，企业所追寻的首先是可靠性，然后才是效率。如果数据面临丢失的风险，再好的硬件也无法挽回企业的损失。加之近几年云计算的出现，对存储提出了更高的要求。而分布式存储逐渐被人们所接受，它具有更好的性能、高扩展性以及可靠性。大部分分布式解决方案都是通过元服务器存放目录结构等元数据,元数据服务器提供了整个分布式存储的索引工作。但是一旦元数据服务器损坏，整个分布式存储业将无法工作。
glusterfs概述
gluster简介
gluster是一个开源的分布式文件系统。在存储数据方面具有强大的横向扩展能力，通过扩展不同的节点可以支持数pb级别的存储容量。
glusterfs主要由存储服务器、客户端和存储网关（可选，根据需要选择使用）组成
GlusterFS 架构中最大的设计特点是没有元数据服务器组件,这有助于提升整个系统的性能、可靠性和稳定性。
glusterfs的特点
扩展性和高性能
GlusterFS利用双重特性来提供高容量存储解决方案。
Scale-〇ut 架构通过增加存储节点的方式来提高存储容量和性能(磁盘、计算和I/0 资源都可以独立增加)，支持10GbE 和 InfiniBand 等高速网络互联Gluster 弹性哈希(Elastic Hash)解决了 GlusterFS 对元数据服务器的依赖,GlusterFS采用弹性哈希算法在存储池中定位数据，放弃了传统的通过元数据服务器定位数据。GlusterFS中可以智能地定位任意数据分片(将数据分片存储在不同节点上)，不需要查看索引或者向元数据服务器查询。这种设计机制实现了存储的横向扩展，改善了单点故障及性能瓶颈，真正实现了并行化数据访问。
高可用性
glusterfs通过配置某些类型的存储卷，可以对文件进行自动复制（类似于raid1），即使某个节点出现故障，也不影响数据的访问。
全局统一命名空间
全局统一命名空间将所有的存储资源聚集成一个单一的虚拟存储池，对用户和应用屏蔽了物理存储信息。存储资源(类似于LVM)可以根据生产环境中的需要进行弹性扩展或收缩。在多节点场景中，全局统一命名空间还可以基于不同节点做负载均衡，大大提高了存取效率。
弹性卷管理
gluster通过将数据存储在逻辑卷中，逻辑卷从逻辑存储池进行独立逻辑划分。逻辑存储池可以在线进行增加和移除，不会导致业务中断。逻辑卷可以根据需要在线增长和缩减，并可以在多个节点中实现负载均衡。文件系统也可以实时在线进行更改并应用，从而可以适应工作负载均衡条件变化或在线性能调优。
基于标准协议
gluster存储服务支持NFS、cifs、http、ftp、smb、及gluster原生协议。
glusterfs术语
Brick(存储块):指可信主机池中由主机提供的用于物理存储的专用分区，是GlusterFS中的基本存储单元，同时也是可信存储池中服务器上对外提供的存储目录。存储目录的格式由服务器和目录的绝对路径构成，表示方法为SERVER:EXPORT,如 192.168.1.4:/ data/mydir/.
Volume(逻辑卷):一个逻辑卷是一组 Brick的集合。卷是数据存储的逻辑设备，类似于 LVM 中的逻辑卷。大部分 Gluster 管理操作是在卷上进行的。
FUSE(FilesysteminUserspace):是一个内核模块，允许用户创建自己的文件系统无须修改内核代码。
VFS:内核空间对用户空间提供的访问磁盘的接口。
Glusterd(后台管理进程):在存储群集中的每个节点上都要运行。
模块化堆栈式架构
图 2.2是 GlusterFS 机构细化图。GlusterFS 采用模块化、堆栈式的架构，可以根据需求配置定制化的应用环境，如大文件存储、海量小文件存储、云存储、多传输协议应用等。通过对模块进行各种组合,即可实现复杂的功能。例如 Replicate 模块可实现 RAID1,Stripe模块可实现 RAID0，通过两者的组合可实现 RAID10 和 RAID01，同时获得更高的性能及可靠性。
GlusterFS 是模块化堆栈式的架构设计，模块称为Translator，是 GlusterFS 提供的一种强大机制，借助这种良好定义的接口可以高效简便地扩展文件系统的功能。服务端与客户端的设计高度模块化的同时模块接口是兼容的，同一个translator 可同时在客户端和服务器加载。
GlusterFS 中所有的功能都是通过 translator 实现的,其中客户端要比服务端更复杂,所以功能的重点主要集中在客户端上。
gluster的工作原理
glusterfs的工作流程
GlusterFS的工作流程如下:
(1)客户端或应用程序通过 GlusterFS的挂载点访问数据,
(2) Linux 系统内核通过 VFS API收到请求并处理。
(3)VFS将数据递交给FUSE内核文件系统,并向系统注册一个实际的文件系统 FUSE而 FUSE 文件系统则是将数据通过/dev/fuse 设备文件递交给了 GlusterFS client 端。可以将 FUSE 文件系统理解为一个代理。
(4)GlusterFS client 收到数据后，client 根据配置文件对数据进行处理。
(5)经过 GlusterFS client 处理后，通过网络将数据传递至远端的 GlusterFS Server,并且将数据写入服务器存储设备。
弹性hash算法
弹性 HASH 算法是 Davies-Meyer 算法的具体实现，通过 HASH 算法可以得到一个 32位的整数范围的 hash 值，假设逻辑卷中有 N 个存储单位 Brick,则 32 位的整数范围将被划分为N个连续的子空间，每个空间对应一个 Brick。当用户或应用程序访问某一个命名空间时，通过对该命名空间计算 HASH 值，根据该 HASH 值所对应的 32 位整数空间定位数据所在的 Brick。弹性 HASH 算法的优点表现如下。保证数据平均分布在每个 Brick 中。
解决了对元数据服务器的依赖，进而解决了单点故障及访问瓶颈。
现在假设创建了一个包含四个 Brick 节点的 GlusterFS卷,在服务端的 Brick 挂载目录会给四个 Brick 平均分配 232的区间的范围空间,GlusterFS hash 分布区间是保存在目录上而不是根据机器去分布区间。如图 2.4所示，Brick*表示一个目录。分布区间保存在每个Brick 挂载点目录的扩展属性上。
在卷中创建四个文件，分别是 test-file1、test-file2、test-file3、test-file4。在访问文件时,通过快速Hash函数计算出对应的HASH值(232范围的数值),然后根据计算出来的HASH值所对应的子空间散列到服务器的 Brick 上，如图 2.5 所示。
gluster卷的类型
GlusterFS支持七种卷，即分布式卷、条带卷、复制卷、分布式条带卷、分布式复制卷条带复制卷和分布式条带复制卷，这七种卷可以满足不同应用对高性能、高可用的需求。
| 类型 | 特点 |
|---|---|
| 分布式卷 | 文件通过 HASH 算法分布到所有 Brick Server 上，这种卷是 Glusterf 的基础;以文件为单位根据 HASH 算法散列到不同的 Brick，其实只是扩大了磁盘空间，如果有一块磁盘损坏，数据也将丢失，属于文件级的 RAID O不具有容错能力。 |
| 条带卷 | 类似 RAID0，文件被分成数据块并以轮询的方式分布到多个 Brick Server 上，文件存储以数据块为单位，支持大文件存储，文件越大，读取效率越高。 |
| 复制卷 | 将文件同步到多个 Brick 上，使其具备多个文件副本,属于文件级 RAID 1，具有容错能力。因为数据分散在多个 Brick 中，所以读性能得到很大提升，但写性能下降。 |
| 分布式条带卷 | Brick Server 数量是条带数(数据块分布的 Brick 数量)的倍数，兼具分布式卷和条带卷的特点。 |
| 分布式复制卷 | Brick Server 数量是镜像数(数据副本数量)的倍数，兼具分布式卷和复制卷的特点。 |
| 条带复制卷 | 类似 RAID 10，同时具有条带卷和复制卷的特点。 |
| 分布式条带复制卷 | 三种基本卷的复合卷，通常用于类 Map Reduce 应用。 |
分布式卷
分布式卷是gluster的默认卷，在创建卷式，默认选项是创建分布式卷。
分布式卷具有如下特点:
文件分布在不同的服务器,不具备几余性。
更容易且廉价地扩展卷的大小。
存在单点故障会造成数据丢失。依赖底层的数据保护
创建分布式卷命令如下：
上述命令创建了一个名为 dis-volume 的分布式卷，文件将根据 HASH 分布在server1:/dir1、server2:/dir2 和server3:/dir3 中。
条带卷
Stripe 模式相当于 RAID0,在该模式下,根据偏移量将文件分成N块(N个条带节点),轮询地存储在每个 Brick Server 节点。节点把每个数据块都作为普通文件存入本地文件系统中，通过扩展属性记录总块数(Stripe-count)和每块的序号(Stripe-index)。在配置时指定的条带数必须等于卷中 Brick所包含的存储服务器数，在存储大文件时，性能尤为突出，但是不具备冗余性。
将数据文件分布到不同的 Brick 节点，如图2.7 所示，File 被分割为6段，1、3、5 放在 Server1，2、4、6 放在 Server2
条带卷具有如下特点。
数据被分割成更小块分布到块服务器群中的不同条带区。
分布减少了负载且更小的文件加速了存取的速度。
没有数据几余。
创建条带卷的命令如下所示:
上述命令创建了一个名为 Stripe-volume的条带卷，文件将被分块轮询地存储在Server1:/dir1和 Server2:/dir2 两个 Brick 中。
复制卷
复制模式，也称为 AFR(AutoFile Replication)，相当于 RAID1，即同一文件保存一份或多份副本，每个节点上保存相同的内容和目录结构。复制模式因为要保存副本，所以磁盘利用率较低。如果多个节点上的存储空间不一致，那么将按照木桶效应取最低节点的容量作
为该卷的总容量。在配置复制卷时，复制数必须等于卷中 Brick所包含的存储服务器数，复制卷具备冗余性，即使一个节点损坏，也不影响数据的正常使用。
将数据文件分布到不同的 Brick节点,如图2.8所示。File1同时存在 Server1和 Server2File2 也是如此，相当于 Server2 中的文件是 Server1 中文件的副本。
复制卷具有如下特点
卷中所有的服务器均保存一个完整的副本。
卷的副本数量可由客户创建的时候决定，
至少有两个块服务器或更多服务器，
具备几余性。
创建复制卷的命令如下所示:
上述命令创建了一个名为rep-volume的复制卷，文件将同时存储两个副本，分别在Server1:/dir1 和 Server2:/dir2 两个 Brick 中。
分布式条带卷
分布式条带卷兼顾分布式卷和条带卷的功能，主要用于大文件访问处理，创建一个分布式条带卷最少需要4台服务器。
创建分布式条带卷的命令如下所示:
上述命令创建了一个名为 dis-stripe 的分布式条带卷,配置分布式条带卷时，卷中 Brick所包含的存储服务器数必须是条带数的倍数(22倍)。在上述命令中，Brick的数量是 4Server1:/dir1、Server2:/dir2、Server3:/dir3 和 Server4:/dir4)，条带数为 2(stripe 2)。创建卷时，存储服务器的数量如果等于条带或复制数,那么创建的是条带卷或者复制卷;如果存储服务器的数量是条带或复制数的2倍甚至更多，那么将创建的是分布式条带卷或分布式复制卷。
分布式复制卷
分布式复制卷兼顾分布式卷和复制卷的功能，主要用于需要几余的情况下。
创建分布式复制卷的命令如下所示：
