基于 ZooKeeper 搭建 Spark 高可用集群

1、集群规划
2、前置条件
3、Spark集群搭建
         3.1 下载解压
         3.2 配置环境变量
         3.3 集群配置
         3.4 安装包分发
4、启动集群
         4.1 启动ZooKeeper集群
         4.2 启动Hadoop集群
         4.3 启动Spark集群
         4.4 查看服务
5、验证集群高可用
6、提交做业

1、集群规划

这里搭建一个3节点的Spark集群，其中三台主机上均部署Worker服务。同时为了保证高可用，除了在hadoop001上部署主Master服务外，还在hadoop002和hadoop003上分别部署备用的Master服务，Master服务由Zookeeper集群进行协调管理，若是主Master不可用，则备用Master会成为新的主Master。

2、前置条件

搭建Spark集群前，须要保证JDK环境、Zookeeper集群和Hadoop集群已经搭建，相关步骤能够参阅：

• Linux环境下JDK安装
• Zookeeper单机环境和集群环境搭建
• Hadoop集群环境搭建

3、Spark集群搭建

3.1 下载解压

下载所需版本的Spark，官网下载地址：http://spark.apache.org/downloads.html

下载后进行解压：

# tar -zxvf  spark-2.2.3-bin-hadoop2.6.tgz

3.2 配置环境变量

# vim /etc/profile

添加环境变量：

export SPARK_HOME=/usr/app/spark-2.2.3-bin-hadoop2.6
export  PATH=${SPARK_HOME}/bin:$PATH

使得配置的环境变量当即生效：

# source /etc/profile

3.3 集群配置

进入${SPARK_HOME}/conf目录，拷贝配置样本进行修改：

1. spark-env.sh

cp spark-env.sh.template spark-env.sh

# 配置JDK安装位置
JAVA_HOME=/usr/java/jdk1.8.0_201
# 配置hadoop配置文件的位置
HADOOP_CONF_DIR=/usr/app/hadoop-2.6.0-cdh5.15.2/etc/hadoop
# 配置zookeeper地址
SPARK_DAEMON_JAVA_OPTS="-Dspark.deploy.recoveryMode=ZOOKEEPER -Dspark.deploy.zookeeper.url=hadoop001:2181,hadoop002:2181,hadoop003:2181 -Dspark.deploy.zookeeper.dir=/spark"

2. slaves

cp slaves.template slaves

配置全部Woker节点的位置：

hadoop001
hadoop002
hadoop003

3.4 安装包分发

将Spark的安装包分发到其余服务器，分发后建议在这两台服务器上也配置一下Spark的环境变量。

scp -r /usr/app/spark-2.4.0-bin-hadoop2.6/   hadoop002:usr/app/
scp -r /usr/app/spark-2.4.0-bin-hadoop2.6/   hadoop003:usr/app/

4、启动集群

4.1 启动ZooKeeper集群

分别到三台服务器上启动ZooKeeper服务：

zkServer.sh start

4.2 启动Hadoop集群

# 启动dfs服务
start-dfs.sh
# 启动yarn服务
start-yarn.sh

4.3 启动Spark集群

进入hadoop001的${SPARK_HOME}/sbin目录下，执行下面命令启动集群。执行命令后，会在hadoop001上启动Maser服务，会在slaves配置文件中配置的全部节点上启动Worker服务。

start-all.sh

分别在hadoop002和hadoop003上执行下面的命令，启动备用的Master服务：

# ${SPARK_HOME}/sbin 下执行
start-master.sh

4.4 查看服务

查看Spark的Web-UI页面，端口为8080。此时能够看到hadoop001上的Master节点处于ALIVE状态，并有3个可用的Worker节点。

而hadoop002和hadoop003上的Master节点均处于STANDBY状态，没有可用的Worker节点。

5、验证集群高可用

此时可使用kill命令杀死hadoop001上的Master进程，此时备用Master会中会有一个再次成为主Master，我这里是hadoop002，能够看到hadoop2上的Master通过RECOVERING后成为了新的主Master，而且得到了所有能够用的Workers。

Hadoop002上的Master成为主Master，并得到了所有能够用的Workers。

此时若是你再在hadoop001上使用start-master.sh启动Master服务，那么其会做为备用Master存在。

6、提交做业

和单机环境下的提交到Yarn上的命令彻底一致，这里以Spark内置的计算Pi的样例程序为例，提交命令以下：

spark-submit \
--class org.apache.spark.examples.SparkPi \
--master yarn \
--deploy-mode client \
--executor-memory 1G \
--num-executors 10 \
/usr/app/spark-2.4.0-bin-hadoop2.6/examples/jars/spark-examples_2.11-2.4.0.jar \
100

更多大数据系列文章能够参见我的 GitHub 开源项目： 大数据入门指南