Hadoop2之NameNode HA详解

在Hadoop1中NameNode存在一个单点故障问题，若是NameNode所在的机器发生故障，整个集群就将不可用(Hadoop1中虽然有个SecorndaryNameNode，可是它并非NameNode的备份，它只是NameNode的一个助理，协助NameNode工做，SecorndaryNameNode会对fsimage和edits文件进行合并，并推送给NameNode，防止因edits文件过大，致使NameNode重启变慢),这是Hadoop1的不可靠实现。

 

在Hadoop2中这个问题得以解决，Hadoop2中的高可靠性是指同时启动NameNode,其中一个处于active工做状态，另一个处于随时待命standby状态。这样，当一个NameNode所在的服务器宕机时，能够在数据不丢失的状况下， 手工或者自动切换到另外一个NameNode提供服务。

这些NameNode之间经过共享数据，保证数据的状态一致。多个NameNode之间共享数据，能够经过Network File System或者Quorum Journal Node。前者是经过Ｌinux共享的文件系统，属于操做系统的配置；后者是Ｈadoop自身的东西，属于软件的配置。

咱们这里讲述使用Quorum Journal Node的配置方式，方式是手工切换。

集群启动时，能够同时启动2个NameNode。这些NameNode只有一个是active的，另外一个属于standby状态。active状态意味着提供服务，standby状态意味着处于休眠状态，只进行数据同步，时刻准备着提供服务，如图2所示。

 

图2

架构

在一个典型的HA集群中，每一个NameNode是一台独立的服务器。在任一时刻，只有一个NameNode处于active状态，另外一个处于standby状态。其中，active状态的NameNode负责全部的客户端操做，standby状态的NameNode处于从属地位，维护着数据状态，随时准备切换。

两个NameNode为了数据同步，会经过一组称做JournalNodes的独立进程进行相互通讯。当active状态的NameNode的命名空间有任何修改时，会告知大部分的JournalNodes进程。standby状态的NameNode有能力读取JNs中的变动信息，而且一直监控edit log的变化，把变化应用于本身的命名空间。standby能够确保在集群出错时，命名空间状态已经彻底同步了，如图3所示。

 

图3

为了确保快速切换，standby状态的NameNode有必要知道集群中全部数据块的位置。为了作到这点，全部的datanodes必须配置两个NameNode的地址，发送数据块位置信息和心跳给他们两个。

对于HA集群而言，确保同一时刻只有一个NameNode处于active状态是相当重要的。不然，两个NameNode的数据状态就会产生分歧，可能丢失数据，或者产生错误的结果。为了保证这点，JNs必须确保同一时刻只有一个NameNode能够向本身写数据。

硬件资源

为了部署HA集群，应该准备如下事情：

* NameNode服务器：运行NameNode的服务器应该有相同的硬件配置。

* JournalNode服务器：运行的JournalNode进程很是轻量，能够部署在其余的服务器上。注意：必须容许至少3个节点。固然能够运行更多，可是必须是奇数个，如三、五、七、9个等等。当运行N个节点时，系统能够容忍至少(N-1)/2个节点失败而不影响正常运行。

在HA集群中，standby状态的NameNode能够完成checkpoint操做，所以不必配置Secondary NameNode、CheckpointNode、BackupNode。若是真的配置了，还会报错。

配置

HA集群须要使用nameservice ID区分一个HDFS集群。另外，HA中还要使用一个词，叫作NameNode ID。同一个集群中的不一样NameNode，使用不一样的NameNode ID区分。为了支持全部NameNode使用相同的配置文件，所以在配置参数中，须要把“nameservice ID”做为NameNode ID的前缀。

HA配置内容是在文件hdfs-site.xml中的。下面介绍关键配置项。

dfs.nameservices   命名空间的逻辑名称。若是使用HDFS Federation，能够配置多个命名空间的名称，使用逗号分开便可。

<property> <name>dfs.nameservices</name> <value>mycluster</value> </property>

dfs.ha.namenodes.[nameservice ID]   命名空间中全部NameNode的惟一标示名称。能够配置多个，使用逗号分隔。该名称是可让DataNode知道每一个集群的全部NameNode。当前，每一个集群最多只能配置两个NameNode。

<property> <name>dfs.ha.namenodes.mycluster</name> <value>nn1,nn2</value> </property>

dfs.namenode.rpc-address.[nameservice ID].[name node ID]   每一个namenode监听的RPC地址。以下所示

<property> <name>dfs.namenode.rpc-address.mycluster.nn1</name> <value>machine1.example.com:8020</value> </property> <property> <name>dfs.namenode.rpc-address.mycluster.nn2</name> <value>machine2.example.com:8020</value> </property>

dfs.namenode.http-address.[nameservice ID].[name node ID]   每一个namenode监听的http地址。以下所示

<property> <name>dfs.namenode.http-address.mycluster.nn1</name> <value>machine1.example.com:50070</value> </property> <property> <name>dfs.namenode.http-address.mycluster.nn2</name> <value>machine2.example.com:50070</value> </property>

若是启用了安全策略，也应该对每一个namenode配置htts-address信息，与此相似。

dfs.namenode.shared.edits.dir   这是NameNode读写JNs组的uri。经过这个uri，NameNodes能够读写edit log内容。URI的格式"qjournal://host1:port1;host2:port2;host3:port3/journalId"。这里的host一、host二、host3指的是Journal Node的地址，这里必须是奇数个，至少3个；其中journalId是集群的惟一标识符，对于多个联邦命名空间，也使用同一个journalId。配置以下

<property> <name>dfs.namenode.shared.edits.dir</name> <value>qjournal://node1.example.com:8485;node2.example.com:8485;node3.example.com:8485/mycluster</value> </property>

这里配置HDFS客户端链接到Active NameNode的一个java类

<property> <name>dfs.client.failover.proxy.provider.mycluster</name> <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value> </property>

dfs.ha.fencing.methods 配置active namenode出错时的处理类。当active namenode出错时，通常须要关闭该进程。处理方式能够是ssh也能够是shell。

若是使用ssh，配置以下

<property> <name>dfs.ha.fencing.methods</name> <value>sshfence</value> </property> <property> <name>dfs.ha.fencing.ssh.private-key-files</name> <value>/home/exampleuser/.ssh/id_rsa</value> </property>

这种方法配置简单，推荐使用。

fs.defaultFS 客户端链接HDFS时，默认的路径前缀。若是前面配置了nameservice ID的值是mycluster，那么这里能够配置为受权信息的一部分

能够在core-site.xml中配置以下

<property> <name>fs.defaultFS</name> <value>hdfs://mycluster</value> </property>

dfs.journalnode.edits.dir  这是JournalNode进程保持逻辑状态的路径。这是在linux服务器文件的绝对路径。

配置以下

<property> <name>dfs.journalnode.edits.dir</name> <value>/path/to/journal/node/local/data</value> </property>

部署

以上配置完成后，就能够启动JournalNode进程了。在各个JournalNode机器上执行命令“hadoop-daemon.sh  journalnode”。

若是是一个新的HDFS集群，还要首先执行格式化命令“hdfs  namenode  -format”，紧接着启动本NameNode进程。

若是存在一个已经格式化过的NameNode，而且已经启动了。那么应该把该NameNode的数据同步到另外一个没有格式化的NameNode。在未格式化过的NameNode上执行命令“hdfs  namenode  -bootstrapStandby”。

若是是把一个非HA集群转成HA集群，应该运行命令“hdfs –initializeSharedEdits”，这会初始化JournalNode中的数据。

作了这些事情后，就能够启动两个NameNode了。启动成功后，经过web页面观察两个NameNode的状态，都是standby。

下面执行命令“hdfs  haadmin  -failover  --forcefence  serviceId   serviceId2”。就会把NameNode的状态进行安全的切换。其中后面一个会变为active状态。这时候再经过web页面观察就能看到正确结果了