NameNode(NN)
SecondaryNameNode(SNN)
DataNode(DN)
Zookeeper(ZK)
Active ZKFailoverController(Active ZKFC)
StandBy ZKFailoverController(StandBy ZKFC)
NameNode Active状态(ActiveNN)
NameNode StandBy状态(StandByNN)
JournalNode(JN)
Active ResourceManager(ActiveRM)
Standby ResourceManager(StandbyRM)
HA(High Available), 高可用
,是保证业务连续性
的有效解决方案,一般有两个或两个以上的节点,分为活动节点(Active)及备用节点(Standby)。通常把正在执行业务的称为活动节点,而作为活动节点的一个备份的则称为备用节点。当活动节点出现问题,导致正在运行的业务(任务)不能正常运行时,备用节点此时就会侦测到,并立即接续活动节点来执行业务。从而实现业务的不中断或短暂中断。
Hadoop1.X版本,NN是HDFS集群的单点故障点
,每一个集群只有一个NN,如果这个机器或进程不可用,整个集群就无法使用。为了解决这个问题,出现了一堆针对HDFS HA的解决方案(如:Linux HA, VMware FT, shared NAS+NFS, BookKeeper, QJM/Quorum Journal Manager, BackupNode等)。
在HA具体实现方法不同情况下,HA框架的流程是一致的, 不一致的就是如何存储、管理、同步edits编辑日志文件
。
在Active NN和Standby NN之间要有个共享的存储日志
的地方,Active NN把edit Log写到这个共享的存储日志的地方,Standby NN去读取日志然后执行,这样Active和Standby NN内存中的HDFS元数据保持着同步。一旦发生主从切换Standby NN可以尽快接管Active NN的工作。
hadoop2.x之后,Clouera提出了QJM/Qurom Journal Manager
,这是一个基于Paxos算法(分布式一致性算法)实现的HDFS HA方案,它给出了一种较好的解决思路和方案,QJM主要优势如下:
不需要配置额外的高共享存储,降低了复杂度和维护成本。
基本原理就是用2N+1台 JournalNode 存储EditLog,每次写数据操作有>=N+1返回成功时即认为该次写成功,数据不会丢失了
。当然这个算法所能容忍的是最多有N台机器挂掉,如果多于N台挂掉,这个算法就失效了。这个原理是基于Paxos算法。
在HA架构里面SecondaryNameNode已经不存在了,为了保持standby NN时时的与Active NN的元数据保持一致,他们之间交互通过JournalNode进行操作同步。
任何修改操作在 Active NN上执行时,JournalNode进程同时也会记录修改log到至少半数以上的JN中,这时 Standby NN 监测到JN 里面的同步log发生变化了会读取 JN 里面的修改log,然后同步到自己的目录镜像树里面,如下图:
当发生故障时,Active的 NN 挂掉后,Standby NN 会在它成为Active NN 前,读取所有的JN里面的修改日志,这样就能高可靠的保证与挂掉的NN的目录镜像树一致,然后无缝的接替它的职责,维护来自客户端请求,从而达到一个高可用的目的。
在HA模式下,datanode需要确保同一时间有且只有一个NN能命令DN。
为此:
HA模式下,会将FailoverController部署在每个NameNode的节点上,作为一个单独的进程用来监视NN的健康状态。FailoverController主要包括三个组件:
上述三个组件都在跑在一个JVM中,这个JVM与NN的JVM在同一个机器上。但是两个独立的进程。一个典型的HA集群,有两个NN组成,每个NN都有自己的ZKFC进程。
ZKFailoverController主要职责:
HA方案中有两个NN
对外提供服务的只有一个
两个NN如何决定哪个是Active?哪个是StandBy?
ZKFC
解决方案
ActiveNN节点发生故障 →
对应的ZKFC监控到故障通知ZK删除临时节点 →
StandByZKFC接收到ZK临时节点发生的变化(在抢占Active状态失败时向ZK订阅了其状态),通知给StandbyNN →
StandbyNN(补刀)远程登录ActiveNN 执行 kill -9 ActiveNN
→
StandbyNN通知ZKFC 到ZK注册临时Znode成功,StandbyNN切换成Active。
JournalNode(共享文件系统)
通过JN使得两种状态的NN元数据信息共享
必须是奇数台(2n+1)
在HA方案中不能有SNN,在安装部署的时候就不能安装,所以方案要么是NN+SNN,要么是NN+StandbyNN,只能二选一,该方案中只能有一个StandbyNN。
Yarn作为资源管理系统,是上层计算框架(如MapReduce,Spark)的基础。在Hadoop 2.4.0版本之前,Yarn存在单点故障(即ResourceManager存在单点故障),一旦发生故障,恢复时间较长,且会导致正在运行的Application丢失,影响范围较大。从Hadoop 2.4.0版本开始,Yarn实现了ResourceManager HA,在发生故障时自动failover,大大提高了服务的可靠性。
ResourceManager(简写为RM)作为Yarn系统中的主控节点,负责整个系统的资源管理和调度,内部维护了各个应用程序的ApplictionMaster信息、NodeManager(简写为NM)信息、资源使用等。由于资源使用情况和NodeManager信息都可以通过NodeManager的心跳机制重新构建出来,因此只需要对ApplicationMaster相关的信息进行持久化存储即可。
在一个典型的HA集群中,两台独立的机器被配置成ResourceManger。在任意时间,有且只允许一个活动的ResourceManger,另外一个备用。切换分为两种方式:
手动切换:在自动恢复不可用时,管理员可用手动切换状态,或是从Active到Standby,或是从Standby到Active。
自动切换:基于Zookeeper,但是区别于HDFS的HA,2个节点间无需配置额外的ZFKC守护进程来同步数据。
在YarnHA方案中,两个RM(ActiveRM、StandbyRM)直接到ZK上面注册临时Znode,哪个先创建,哪个就是Active,另一个是Standby。
ActiveRM、StandbyRM两者之间的切换:StandbyRM订阅Znode,当ActiveRM状态的Znode删除后,StandByRM状态切换为ActiveRM。