Docker实战之Zookeeper集群

时间  2020-03-04
标签 docker 实战 zookeeper 集群 栏目 Docker 繁體版
原文   原文链接

1. 概述

这里是 Docker 实战系列第四篇。主要介绍分布式系统中的元老级组件 Zookeeper。node

ZooKeeper 是一个开源的分布式协调服务，是 Hadoop，HBase 和其余分布式框架使用的有组织服务的标准。算法

分布式应用程序能够基于 ZooKeeper 实现诸如数据发布/订阅、负载均衡、命名服务、分布式协调/通知、集群管理、Master 选举、分布式锁和分布式队列等功能。docker

读过 Docker 实战之 Consul 集群 的小伙伴应该有印象，里边有一张一致性算法的对比图。全部的分布式系统都面临着 CAP 理论的抉择，都须要一致性算法的保障。这里先放上一个简单的总结，用于你们借鉴那些顶级开源软件在分布式上的思路。bash

分布式组件 算法/协议 服务
Redis Cluster Gossip master 提供读写，slave 只备份
Zookeeper ZAB Leader 提供读写，Follower 只读，遇到写请求转发给 Leader
Kafka ZK 临时节点 只有 leader 提供读写服务

2. 应用场景

大体来讲，zookeeper 的使用场景以下:负载均衡

  • 分布式协调
  • 分布式锁
  • 元数据/配置信息管理
  • HA 高可用性
  • 发布/订阅
  • 负载均衡
  • Master 选举

这里引用中华石杉老师的例子框架

2.1 分布式协调

这个实际上是 zookeeper 很经典的一个用法，简单来讲，就比如，你 A 系统发送个请求到 mq，而后 B 系统消息消费以后处理了。那 A 系统如何知道 B 系统的处理结果？用 zookeeper 就能够实现分布式系统之间的协调工做。A 系统发送请求以后能够在 zookeeper 上对某个节点的值注册个监听器，一旦 B 系统处理完了就修改 zookeeper 那个节点的值，A 系统立马就能够收到通知，完美解决。less

2.2 分布式锁

举个栗子。对某一个数据连续发出两个修改操做，两台机器同时收到了请求，可是只能一台机器先执行完另一个机器再执行。那么此时就可使用 zookeeper 分布式锁，一个机器接收到了请求以后先获取 zookeeper 上的一把分布式锁，就是能够去建立一个 znode，接着执行操做；而后另一个机器也尝试去建立那个 znode，结果发现本身建立不了，由于被别人建立了，那只能等着，等第一个机器执行完了本身再执行。分布式

2.3 元数据/配置信息管理

zookeeper 能够用做不少系统的配置信息的管理，好比 kafka、storm 等等不少分布式系统都会选用 zookeeper 来作一些元数据、配置信息的管理，包括 dubbo 注册中心不也支持 zookeeper 么？oop

2.4 HA 高可用性

这个应该是很常见的，好比 hadoop、hdfs、yarn 等不少大数据系统，都选择基于 zookeeper 来开发 HA 高可用机制，就是一个重要进程通常会作主备两个，主进程挂了立马经过 zookeeper 感知到切换到备用进程。测试

3. Docker 配置

docker-compose-zookeeper-cluster.yml

version: '3.7'

networks:
  docker_net:
    external: true


services:
  zoo1:
    image: zookeeper
    restart: unless-stopped
    hostname: zoo1
    container_name: zoo1
    ports:
      - 2182:2181
    environment:
      ZOO_MY_ID: 1
      ZOO_SERVERS: server.1=0.0.0.0:2888:3888;2181 server.2=zoo2:2888:3888;2181 server.3=zoo3:2888:3888;2181
    volumes:
      - ./zookeeper/zoo1/data:/data
      - ./zookeeper/zoo1/datalog:/datalog
    networks:
      - docker_net

  zoo2:
    image: zookeeper
    restart: unless-stopped
    hostname: zoo2
    container_name: zoo2
    ports:
      - 2183:2181
    environment:
      ZOO_MY_ID: 2
      ZOO_SERVERS: server.1=zoo1:2888:3888;2181 server.2=0.0.0.0:2888:3888;2181 server.3=zoo3:2888:3888;2181
    volumes:
      - ./zookeeper/zoo2/data:/data
      - ./zookeeper/zoo2/datalog:/datalog
    networks:
      - docker_net

  zoo3:
    image: zookeeper
    restart: unless-stopped
    hostname: zoo3
    container_name: zoo3
    ports:
      - 2184:2181
    environment:
      ZOO_MY_ID: 3
      ZOO_SERVERS: server.1=zoo1:2888:3888;2181 server.2=zoo2:2888:3888;2181 server.3=0.0.0.0:2888:3888;2181
    volumes:
      - ./zookeeper/zoo3/data:/data
      - ./zookeeper/zoo3/datalog:/datalog
    networks:
      - docker_net

启动集群

docker-compose -f docker-compose-zookeeper-cluster.yml up -d

4. 集群初认识

在 ZAB 算法中，存在 Leader、Follower、Observer 三种角色，如今咱们就来认识下它们。

  • 查看 zoo1 角色
➜  docker docker exec -it zoo1 /bin/sh
# zkServer.sh status
ZooKeeper JMX enabled by default
Using config: /conf/zoo.cfg
Client port found: 2181. Client address: localhost.
Mode: follower

由上结果可知，zoo1 是 follower

  • 查看 zoo2 角色
➜  docker docker exec -it zoo2 /bin/sh
# zkServer.sh status
ZooKeeper JMX enabled by default
Using config: /conf/zoo.cfg
Client port found: 2181. Client address: localhost.
Mode: follower

由上结果可知，zoo2 是 follower

  • 查看 zoo3 角色
➜  docker docker exec -it zoo3 /bin/sh
# zkServer.sh status
ZooKeeper JMX enabled by default
Using config: /conf/zoo.cfg
Client port found: 2181. Client address: localhost.
Mode: leader

由上结果可知，zoo3 是 leader。负责集群的读写。

  • 查看 zoo3 选举数据
➜  docker echo srvr | nc localhost 2184
Zookeeper version: 3.5.6-c11b7e26bc554b8523dc929761dd28808913f091, built on 10/08/2019 20:18 GMT
Latency min/avg/max: 0/0/0
Received: 2
Sent: 1
Connections: 1
Outstanding: 0
Zxid: 0x100000000
Mode: leader
Node count: 5
Proposal sizes last/min/max: -1/-1/-1
  • 查看映射数据

若是实践了上述操做的小伙伴必定会发现，映射路径下的文件夹多了好多东西，感兴趣的小伙伴能够打开看一下，了解下 ZAB 的选举算法(没错，里边记录的就是选举相关的数据)。

➜  zookeeper cd zoo1
➜  zoo1 tree
.
├── data
│   ├── myid
│   └── version-2
│       ├── acceptedEpoch
│       ├── currentEpoch
│       └── snapshot.0
└── datalog
    └── version-2

注意：留意 currentEpoch 中的数值

5. 选举演练

5.1 模拟 Leader 掉线

➜  zoo1 docker stop zoo3
zoo3

查看此时的选举结果(操做同查看角色操做步骤)。能够看到 Zookeeper 集群从新选举结果: zoo2 被选为 leader

5.2 zoo3 节点从新上线

➜  zoo1 docker start zoo3
zoo3

查看 zoo3 角色，发现 zoo3 自动做为 follower 加入集群。

注意：查看 currentEpoch 中的数值，存储值为 2，表明通过了 2 次选举。第一次为刚启动时触发选举，第二次为 leader 宕机后从新选举

6. 经常使用操做

6.1 查看文件目录

笔者本地有安装的 Zookeeper 环境，因此这里用本地的 zkCli 进行测试。

zkCli -server localhost:2182,localhost:2183,localhost:2184
Connecting to localhost:2182,localhost:2183,localhost:2184
Welcome to ZooKeeper!
JLine support is enabled

WATCHER::

WatchedEvent state:SyncConnected type:None path:null
[zk: localhost:2182,localhost:2183,localhost:2184(CONNECTED) 0] ls /
[zookeeper]

6.2 建立顺序节点

顺序节点保证 znode 路径将是惟一的。

[zk: localhost:2182,localhost:2183,localhost:2184(CONNECTED) 1] create -s /zk-test 123
Created /zk-test0000000000
[zk: localhost:2182,localhost:2183,localhost:2184(CONNECTED) 2] ls /
[zk-test0000000000, zookeeper]

6.3 建立临时节点

当会话过时或客户端断开链接时，临时节点将被自动删除

[zk: localhost:2182,localhost:2183,localhost:2184(CONNECTED) 3] create -e /zk-temp 123
Created /zk-temp
[zk: localhost:2182,localhost:2183,localhost:2184(CONNECTED) 4] ls /
[zk-test0000000000, zookeeper, zk-temp]

临时节点在客户端会话结束后就会自动删除，下面使用 quit 命令行退出客户端,再次链接后便可验证。

[zk: localhost:2182,localhost:2183,localhost:2184(CONNECTED) 5] quit
Quitting...
➜  docker zkCli -server localhost:2182,localhost:2183,localhost:2184
Connecting to localhost:2182,localhost:2183,localhost:2184
Welcome to ZooKeeper!
JLine support is enabled

WATCHER::

WatchedEvent state:SyncConnected type:None path:null
[zk: localhost:2182,localhost:2183,localhost:2184(CONNECTED) 0] ls /
[zk-test0000000000, zookeeper]

6.4 建立永久节点

[zk: localhost:2182,localhost:2183,localhost:2184(CONNECTED) 1] create /zk-permanent 123
Created /zk-permanent
[zk: localhost:2182,localhost:2183,localhost:2184(CONNECTED) 2] ls /
[zk-permanent, zk-test0000000000, zookeeper]

6.5 读取节点

[zk: localhost:2182,localhost:2183,localhost:2184(CONNECTED) 3] get /

cZxid = 0x0
ctime = Thu Jan 01 08:00:00 CST 1970
mZxid = 0x0
mtime = Thu Jan 01 08:00:00 CST 1970
pZxid = 0x400000008
cversion = 3
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 0
numChildren = 3
[zk: localhost:2182,localhost:2183,localhost:2184(CONNECTED) 4] ls2 /
[zk-permanent, zk-test0000000000, zookeeper]
cZxid = 0x0
ctime = Thu Jan 01 08:00:00 CST 1970
mZxid = 0x0
mtime = Thu Jan 01 08:00:00 CST 1970
pZxid = 0x400000008
cversion = 3
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 0
numChildren = 3

使用 ls2 命令来查看某个目录包含的全部文件，与 ls 不一样的是它查看到 time、version 等信息

6.6 更新节点

[zk: localhost:2182,localhost:2183,localhost:2184(CONNECTED) 5] set /zk-permanent 456
cZxid = 0x400000008
ctime = Tue Mar 03 21:35:20 CST 2020
mZxid = 0x400000009
mtime = Tue Mar 03 21:40:11 CST 2020
pZxid = 0x400000008
cversion = 0
dataVersion = 1
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 3
numChildren = 0

6.7 检查状态

[zk: localhost:2182,localhost:2183,localhost:2184(CONNECTED) 6] stat /zk-permanent
cZxid = 0x400000008
ctime = Tue Mar 03 21:35:20 CST 2020
mZxid = 0x400000009
mtime = Tue Mar 03 21:40:11 CST 2020
pZxid = 0x400000008
cversion = 0
dataVersion = 1
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 3
numChildren = 0

6.8 删除节点

[zk: localhost:2182,localhost:2183,localhost:2184(CONNECTED) 7] rmr /zk-permanent
[zk: localhost:2182,localhost:2183,localhost:2184(CONNECTED) 8] ls /
[zk-test0000000000, zookeeper]

7. AD

公众号【当我赶上你】, 天天带给你不同的内容
相关文章
相关标签/搜索
每日一句
    每一个你不满意的现在，都有一个你没有努力的曾经。
本站公众号
   欢迎关注本站公众号,获取更多信息
联系我们 最近搜索 最新文章 沪ICP备13005482号-10 MyBatis教程 SQL 教程 MySQL教程 Java 教程 Thymeleaf 教程 Hibernate教程 Spring教程 Redis教程