GlusterFS分布式文件系统概述

博文目录
1、GlusterFS概述
一、GlusterFS的特色
二、GlusterFS术语
三、模块化堆栈式架构
2、GlusterFS的工做原理
一、GlusterFS的工做流程
二、弹性HASH算法
3、GlusterFS的卷类型
一、分布式卷
二、条带卷
三、复制卷
四、分布式条带卷
五、分布式复制卷

1、GlusterFS概述

GlusterFS是一个开源的分布式文件系统，同时也是Scale-Out存储解决方案Gluster的核心，在存储数据方面有强大的横向扩展能力，经过扩展不一样的节点能够支持PB级别的存储容量。GlusterFS借助TCP/IP或InfiniBand RDMA网络将分散的存储资源汇聚在一块儿，同一提供存储服务，并使用单一全局命令空间来管理数据。GlusterFS基于可堆叠的用户空间以及无元的设计，可为各类不一样的数据负载提供优异的性能。

GlusterFS主要由存储服务器、客户端及NFS/Samba存储网关（可选，根据须要选择使用）组成。GlusterFS架构中最大的设计特色就是没有元数据服务器组件，这有助于提高整个系统的性能、可靠性和稳定性。传统的分布式文件系统大多经过元服务器来存储元数据，元数据包含存储节点上的目录信息、目录结构等，这样的设计在浏览目录时效率很是高，可是也存在一些缺陷，如单点故障，一旦元数据服务器出现故障，即便节点具有再高的冗余性，整个存储系统也将崩溃，而GlusterFS分布式文件系统是基于无元服务器的设计，数据横向扩展能力强，具有较高的可靠性及存储效率。 GlusterFS支持TCP/IP和InfiniBand RDMA高速网络互联，客户端可经过原声GlusterFS协议访问数据，其余没有运行GlusterFS客户端的终端可经过NFS/CIFS标准协议经过存储网关访问数据。以下图：

一、GlusterFS的特色

• 扩展性和高性能；

• 高可用性；

• 全局统一命名空间；

• 基于标准协议；

• 弹性卷管理；

二、GlusterFS术语

• Brick（存储块）：指可信主机池中由主机提供的用于物理存储的专用分区，是GlusterFS中的基本存储单元，同时也是可信存储池中服务器上对外提供的存储目录，存储目录的格式由服务器和目录的绝对路径构成，表示方法为SERVER：EXPORT ，好比：192.168.1.4/date/mydir/；

• Volume（逻辑卷）：一个逻辑卷是一组Brick的集合。卷是数据存储的逻辑设备，相似于LVM中的逻辑卷。大部分Gluster管理操做是在卷上进行的；

• FUSE：是一个内核模块，容许用户建立本身的文件系统，无须修改内核代码；

• VFS：内核空间对用户空间提供吧的访问磁盘的接口；

• Glusterd（后台管理进程）：在存储群集中的每一个节点上都要运行；

三、模块化堆栈式架构

以下图所示，GlusterFS采用模块化、堆栈式的架构，能够根据需求配置定制化的应用环境，如大文件存储、海量小文件存储、云存储、多传输协议应用等。经过对模块进行各类组合，便可实现复杂的功能。例如，Replicate模块可实现RAID1，Stripe模块可实现RAID0，经过二者的组合可实现RAID10和RAID01，同时得到更高的性能及可靠性。

GlusterFS是模块化堆栈式的架构设计。模块成为Translator，是GlusterFS提供的一种强大的机制，借助这种良好定义的接口能够高效简便地扩展文件系统的功能。
1）服务器与客户端的设计高度模块化的同事模块接口是兼容的，同一个transtator可同事在客户端和服务器加载；

2）GlusterFS中全部的功能都是经过transtator实现的，其中客户端要比服务器更复杂。因此功能的重点主要集中在客户端上；

2、GlusterFS的工做原理

一、GlusterFS的工做流程

图中所示只是GlusterFS数据访问的一个概要图。
1）客户端或应用程序经过GlusterFS的挂在点访问数据；

2）Linux系统内核经过VFS API收到请求并处理；

3）VFS将数据递交给FUSE内核文件系统，并向系统注册了一个实际的文件系统FUSE，而FUSE文件系统则是将数据过/dev/fuse设备文件递交给GlusterFS client端。能够将FUSE文件系统理解为一个代理；

4）GlusterFS client收到数据后。client根据配置文件对数据进行处理；

5）通过GlusterFS client处理后，经过网络将数据传递至远端的GlusterFS Server，而且将数据写入服务器存储设备；

二、弹性HASH算法

弹性HASH算法使用Davies-Meyer算法，经过HASH算法获得一个32位的整数范围，假设逻辑卷中有N个存储单位Brick，则32位的整数范围被划分为N个连续的子空间，每一个空间对应一个Brick。当用户或应用程序访问某一个命名空间时，经过对该命名空间计算HASH值，根据该HASH值对应的32位整数空间定位数据所在的Brick。优势以下：

• 保证数据平均分布在每一个Brick中；

• 解决了对元数据服务器的依赖，进而解决了单点故障及访问瓶颈；

3、GlusterFS的卷类型

GlusterFS支持七种卷，即分布式卷、条带卷、复制卷、分布式条带卷、分布式复制卷、条带复制卷和分布式条带复制卷，这七种卷能够知足不一样应用对高性能、高可用的需求。

• 分布式卷（Distribute volume）：文件经过HASH算法分布到全部Brick Server上，这种卷是Glusterf的基础；以文件为单位根据HASH算法散列到不一样的Brick，其实只是扩大了磁盘空间，若是有一个磁盘损坏，数据也将丢失，属于文件级的RAID0，不具有容错能力；

• 条带卷（Stripe volume）：相似于RAID0，文件被分为数据块并以轮询的方式分布到多个Brick Server上，文件存储以数据块为单位，支持大文件存储，文件越大，读取效率越高；

• 复制卷（Replica volume）：将文件同步到多个Brick上，使其具有多个文件副本，属于文件级RAID1，具备容错能力。由于数据分散到多个Brick中，因此读性能获得了很大提高，但写性能降低；

• 分布式条带卷（Distribute Stripe volume）：Brick Server数量是条带数（数据块分布的Brick数量）的倍数，兼备分布式卷和条带卷的特色；

• 分布式复制卷（Distribute Replica volume）：Brick Server数量是镜像数（数据副本数量）的倍数，具备分布式卷和复制卷的特色；

• 条带复制卷（Stripe Replica volume）：相似于RAID10，同时具备条带卷和复制卷的特色；

• 分布式条带复制卷（Distribute Stripe Replica volume）：三种基本卷的复合卷，一般用于类Map Reduce应用；

一、分布式卷

分布式卷是GlusterFS的默认卷，在建立卷时，默认选项就是建立分布式卷。在该模式下，并无对文件进行分块处理，文件直接存储在某个Server节点上。直接使用本地文件系统进行文件存储，大部分Linux命令和工具能够继续正常使用。须要经过扩展文件属性保存HASH值，目前支持的底层文件系统有ext三、ext四、ZFS、XFS等。
因为使用本地文件系统，因此存取效率并无提升，反而会由于网络通讯的缘由而有所下降；另外支持超大型文件也会有必定的难度，由于分布式卷不会对文件进行分块处理。虽然ext4已经能够支持最大16TB的单个文件，可是本地存储设备的容量实在有限。
如图所示，File1和File2存放在Server1，而File3存放在Server2，文件都是随机存储，一个文件要么在Server1上，要么在Server2上，不能分块同时存放在Server1和Server2上。

分布式卷具备以下特色：

• 文件分布在不一样的服务器，布局别冗余性；

• 更容易廉价地扩展卷的大小；

• 单点故障会形成数据丢失；

• 依赖于底层的数据保护；

建立分布式卷：

[root@cecentos01 ~]# gluster volume create dis-volume server1:/dir1 server2:/dir2
<!--建立一个名为dis-volume的分布卷，文件将根据HASH分布在
server1：/dir一、server2:/dir2中-->
Creation of dis-volume has been successful
Please start the volume to access data

二、条带卷

Stripe模式至关于RAID0，在该模式下，根据偏移量将文件分红N块（N个条带节点），轮询地存储在每一个Brick Server节点。节点把每一个数据块都做为普通文件存入本地文件系统中，经过扩展属性记录总块数和每块的序号。在配置时指定的条带数必须等于卷中Brick所包含的存储服务器数，在存储大文件时，性能尤其突出，可是不具有冗余性。
以下图所示，将文件存放在不一样服务器里，File被分割为6段，一、三、5放在server1，二、四、6放在server2。

条带卷具备以下特色：

• 数据被分割成更小块分布到块服务器群中的不一样条带区；

• 分布减小了负载且更小的文件加速了存取的速度；

• 没有数据冗余；

建立条带卷：

[root@centos01 ~]# gluster volume create stripe-volume stripe 2 transport tcp server1:/dir1 server2:/dir2
<!--建立一个名为Stripe-volume的条带卷，文件将分块轮询地存储在
server1:/dir1 、server2:/dir2两个Brick中-->
Creation of rep-volume has been successful
Please start the volume to access data

三、复制卷

复制模式，也称为AFR，至关于RAID1。即同一文件保存一份或多份副本，每一个节点保存相同的内容和目录结构。复制模式由于要保存副本，因此磁盘利用率较低。若是多个节点上的存储空间不一致，那么将按照木桶效应取最低节点的容量做为该卷的总容量。在配置复制卷时，复制数必须等于卷中Brick所包含的存储服务器数，复制卷具有冗余性，即便一个节点损坏，也不影响数据的正常使用。
以下图所示，将文件存放在服务器里，File1和File2同时存放在Server1和Server2上，至关于Server2中的文件是Server1中文件的副本。

复制卷具备如下特色：

• 卷中全部的服务器均保存一个完整的副本；

• 卷的副本数量可由客户建立的时候决定；

• 至少有两个块服务器或者更多的服务器；

• 具备冗余性；

建立复制卷：

[root@centos01 ~]# gluster volume create rep-volume replica 2 transport tcp server1:/dir1 server2:/dir2
<!--建立名为rep-volume的复制卷，文件将同时存储两个副本，
分别在Server1:/dir1和Server2:/dir2两个Brick中-->
Creation of rep-volume has been successful
Please start the volume to access data

四、分布式条带卷

分布式条带卷兼顾分布式和条带卷的功能，主要用于大文件访问处理，建立一个分布式条带卷最少须要4台服务器。
以下图所示，File1和File2经过分布式卷的功能分别定位到Server1和Server2。在Server1中，File1被分割成4段，其中一、3在Server1中exp1目录中；二、4在Server1中的exp2目录中。在Server2中，File2也被分割成4段，其中一、3在Server2中的exp3目录中，二、4在Server2中的exp4目录中。

建立分布式条带卷：

[root@centos01 ~]# gluster volume create dis-stripe stripe 2 transport tcp server1:/dir1 server2:/dir2 server3:/dir3 server4:/dir4
<!--建立了一个名为dis-stripe的分布式条带卷，配置分布式的条带卷时，
卷中Brick所包含的存储服务器数必须是条带数的倍数(>=2倍)-->
Creation of rep-volume has been successful
Please start the volume to access data

建立卷时，存储服务器的数量若是等于条带或复制数，那么建立的是条带卷或复制卷；若是存储服务器的数量是条带卷或复制卷的2倍甚至更多，那么将建立分布式条带卷或分布式复制卷。

五、分布式复制卷

分布式复制卷兼顾分布式卷和复制卷的功能，主要用于须要冗余的状况下。
以下图所示，File1和File2经过分布式卷的功能分别定位到Server1和Server2。在存放File1时，File1根据复制卷的特性，将存在两个相同的副本，分别是Server1中的exp1目录和Server2中的exp2目录，在存放File2时，File2根据复制卷的特性，也将存在两个相同的副本，分别是Server3中的exp3目录和Server4中的exp4目录。

建立分布式复制卷：

[root@centos01 ~]# gluster volume create dis-rep replica 2 transport tcp server1:/dir1 server2:/dir2 server3:/dir3 server4:/dir4
<!--建立了一个名为dis-rep的分布式条带卷，配置分布式的复制卷时，
卷中Brick所包含的存储服务器数必须是条带数的倍数(>=2倍)-->
Creation of rep-volume has been successful
Please start the volume to access data

假如存在8台服务器，当复制副本为2时，按照服务器列表的顺序，服务器1和2做为一个复制，服务器3和4做为一个复制，服务器5和6做为一个复制，服务器7和8做为一个复制；当复制副本为4时，按照服务器列表的顺序，服务器1/2/3./4做为一个复制，服务器5/6/7/8做为一个复制。

关于搭建GlusterFS分布式文件系统群集将在下一篇博文详细配置！！！

———————— 本文至此结束，感谢阅读 ————————