Zookeeper的一致性协议:Zab

      Zookeeper使用了一种称为Zab(Zookeeper Atomic Broadcast)的协议做为其一致性复制的核心,据其做者说这是一种新发算法,其特色是充分考虑了Yahoo的具体状况:高吞吐量、低延迟、健壮、简单,但不过度要求其扩展性。下面将展现一些该协议的核心内容:

另,本文仅讨论Zookeeper使用的一致性协议而非讨论其源码实现 算法

Zookeeper的实现是有Client、Server构成,Server端提供了一个一致性复制、存储服务,Client端会提供一些具体的语义,好比分布式锁、选举算法、分布式互斥等。从存储内容来讲,Server端更多的是存储一些数据的状态,而非数据内容自己,所以Zookeeper能够做为一个小文件系统使用。数据状态的存储量相对不大,彻底能够所有加载到内存中,从而极大地消除了通讯延迟。 数据库

Server能够Crash后重启,考虑到容错性,Server必须“记住”以前的数据状态,所以数据须要持久化,但吞吐量很高时,磁盘的IO便成为系统瓶颈,其解决办法是使用缓存,把随机写变为连续写。 缓存

考虑到Zookeeper主要操做数据的状态,为了保证状态的一致性,Zookeeper提出了两个安全属性(Safety Property) 安全

  • 全序(Total order):若是消息a在消息b以前发送,则全部Server应该看到相同的结果
  • 因果顺序(Causal order):若是消息a在消息b以前发生(a致使了b),并被一块儿发送,则a始终在b以前被执行。
为了保证上述两个安全属性,Zookeeper使用了TCP协议和Leader。经过使用TCP协议保证了消息的全序特性(先发先到),经过Leader解决了因果顺序问题:先到Leader的先执行。由于有了Leader,Zookeeper的架构就变为:Master-Slave模式,但在该模式中Master(Leader)会Crash,所以,Zookeeper引入了Leader选举算法,以保证系统的健壮性。概括起来Zookeeper整个工做分两个阶段:
  • Atomic Broadcast
  • Leader选举

1. Atomic Broadcast

同一时刻存在一个Leader节点,其余节点称为“Follower”,若是是更新请求,若是客户端链接到Leader节点,则由Leader节点执行其请求;若是链接到Follower节点,则需转发请求到Leader节点执行。但对读请求,Client能够直接从Follower上读取数据,若是须要读到最新数据,则须要从Leader节点进行,Zookeeper设计的读写比例是2:1。

Leader经过一个简化版的二段提交模式向其余Follower发送请求,但与二段提交有两个明显的不一样之处:
  • 由于只有一个Leader,Leader提交到Follower的请求必定会被接受(没有其余Leader干扰)
  • 不须要全部的Follower都响应成功,只要一个多数派便可
通俗地说,若是有2f+1个节点,容许f个节点失败。由于任何两个多数派必有一个交集,当Leader切换时,经过这些交集节点能够得到当前系统的最新状态。若是没有一个多数派存在(存活节点数小于f+1)则,算法过程结束。但有一个特例:
若是有A、B、C三个节点,A是Leader,若是B Crash,则A、C能正常工做,由于A是Leader,A、C还构成多数派;若是A Crash则没法继续工做,由于Leader选举的多数派没法构成。

2. Leader Election

Leader选举主要是依赖Paxos算法,具体算法过程请参考其余博文,这里仅考虑Leader选举带来的一些问题。Leader选举遇到的最大问题是,”新老交互“的问题,新Leader是否要继续老Leader的状态。这里要按老Leader Crash的时机点分几种状况:
  1. 老Leader在COMMIT前Crash(已经提交到本地)
  2. 老Leader在COMMIT后Crash,但有部分Follower接收到了Commit请求
第一种状况,这些数据只有老Leader本身知道,当老Leader重启后,须要与新Leader同步并把这些数据从本地删除,以维持状态一致。
第二种状况,新Leader应该能经过一个多数派得到老Leader提交的最新数据
老Leader重启后,可能还会认为本身是Leader,可能会继续发送未完成的请求,从而由于两个Leader同时存在致使算法过程失败,解决办法是把Leader信息加入每条消息的id中,Zookeeper中称为zxid,zxid为一64位数字,高32位为leader信息又称为epoch,每次leader转换时递增;低32位为消息编号,Leader转换时应该从0从新开始编号。经过zxid,Follower能很容易发现请求是否来自老Leader,从而拒绝老Leader的请求。

由于在老Leader中存在着数据删除(状况1),所以Zookeeper的数据存储要支持补偿操做,这也就须要像数据库同样记录log。

3. Zab与Paxos

Zab的做者认为Zab与paxos并不相同,只因此没有采用Paxos是由于Paxos保证不了全序顺序:
Because multiple leaders can
propose a value for a given instance two problems arise.
First, proposals can conflict. Paxos uses ballots to detect and resolve conflicting proposals. 
Second, it is not enough to know that a given instance number has been committed, processes must also be able to figure out which value has been committed.
Paxos算法的确是不关系请求之间的逻辑顺序,而只考虑数据之间的全序,但不多有人直接使用paxos算法,都会通过必定的简化、优化。
通常Paxos都会有几种简化形式,其中之一即是,在存在Leader的状况下,能够简化为1个阶段(Phase2)。仅有一个阶段的场景须要有一个健壮的Leader,所以工做重点就变为Leader选举,在考虑到Learner的过程,还须要一个”学习“的阶段,经过这种方式,Paxos可简化为两个阶段:
  • 以前的Phase2
  • Learn
若是再考虑多数派要Learn成功,这其实就是Zab协议。Paxos算法着重是强调了选举过程的控制,对决议学习考虑的很少,Zab刚好对此进行了补充。
以前有人说,全部分布式算法都是Paxos的简化形式,虽然很绝对,但对不少状况的确如此,但不知Zab的做者是否定同这种说法?

4.结束

本文只是想从协议、算法的角度分析Zookeeper,而非分析其源码实现,由于Zookeeper版本的变化,文中描述的场景或许已找不到对应的实现。另,本文还试图揭露一个事实:Zab就是Paxos的一种简化形式。
相关文章
相关标签/搜索