项目从单体到分布式转变以后,将会产生多个节点之间协同的问题。如:html
这些问题能够统一概括为多节点协调问题,若是靠节点自身进行协调这是很是不可靠的,性能上也不可取。必须由一个独立的服务作协调工做,它必须可靠,并且保证性能。node
ZooKeeper是用于分布式应用程序的协调服务。它公开了一组简单的API,分布式应用程序能够基于这些API用于同步,节点状态、配置等信息、服务注册等信息。其由JAVA编写,支持JAVA 和C两种语言的客户端。
zookeeper 中数据基本单元叫节点,节点之下可包含子节点,最后以树级方式程现。每一个节点拥有惟一的路径path。客户端基于PATH上传节点数据,zookeeper 收到后会实时通知对该路径进行监听的客户端。apache
zookeeper 基于JAVA开发,下载后只要有对应JVM环境便可运行。其默认的端口号是2181运行前得保证其不冲突。编程
2019年5月20日发行的3.5.5是3.5分支的第一个稳定版本。此版本被认为是3.4稳定分支的后续版本,能够用于生产。基于3.4它包含如下新功能后端
另请注意:建议的最低JDK版本为1.8
文件说明:多线程
下载地址:https://zookeeper.apache.org/releases.html#download
具体部署流程:并发
#下载 wget https://mirrors.tuna.tsinghua.edu.cn/apache/zookeeper/current/apache-zookeeper-3.5.5-bin.tar.gz #解压 tar -zxvf apache-zookeeper-3.5.5-bin.tar.gz #拷贝默认配置 cd {zookeeper_home}/conf cp zoo_sample.cfg zoo.cfg #启动 {zookeeper_home}/bin/zkServer.sh
# zookeeper时间配置中的基本单位 (毫秒) tickTime=2000 # 容许follower初始化链接到leader最大时长,它表示tickTime时间倍数 即:initLimit*tickTime initLimit=10 # 容许follower与leader数据同步最大时长,它表示tickTime时间倍数 syncLimit=5 #zookeper 数据存储目录 dataDir=/tmp/zookeeper #对客户端提供的端口号 clientPort=2181 #单个客户端与zookeeper最大并发链接数 maxClientCnxns=60 # 保存的数据快照数量,以外的将会被清除 autopurge.snapRetainCount=3 #自动触发清除任务时间间隔,小时为单位。默认为0,表示不自动清除。 autopurge.purgeInterval=1
基本命令列表
close
关闭当前会话
connect host:port
从新链接指定Zookeeper服务
create [-s] [-e] [-c] [-t ttl] path [data] [acl]
建立节点
delete [-v version] path
删除节点,(不能存在子节点)
deleteall path
删除路径及全部子节点
setquota -n|-b val path
设置节点限额 -n 子节点数 -b 字节数
listquota path
查看节点限额
delquota [-n|-b] path
删除节点限额
get [-s] [-w] path
查看节点数据 -s 包含节点状态 -w 添加监听
getAcl [-s] path
ls [-s] [-w] [-R] path
列出子节点 -s状态 -R 递归查看全部子节点 -w 添加监听
printwatches on|off
是否打印监听事件
quit
退出客户端
history
查看执行的历史记录
redo cmdno
重复 执行命令,history 中命令编号肯定
removewatches path [-c|-d|-a] [-l]
删除指定监听
set [-s] [-v version] path data
设置值
setAcl [-s] [-v version] [-R] path acl
为节点设置ACL权限
stat [-w] path
查看节点状态 -w 添加监听
sync path
强制同步节点机器学习
node数据的增删改查编程语言
# 列出子节点 ls / #建立节点 create /luban "luban is good man" # 查看节点 get /luban # 建立子节点 create /luban/sex "man" # 删除节点 delete /luban/sex # 删除全部节点 包括子节点 deleteall /luban
[zk: 127.0.0.1:2181(CONNECTED) 20] ls / [admin, brokers, cluster, config, consumers, controller, controller_epoch, isr_change_notification, latest_producer_id_block, log_dir_event_notification, tmp0000000095, zookeeper] [zk: 127.0.0.1:2181(CONNECTED) 21] create /xiaoqiang "xiaoqiang is a good man" Created /xiaoqiang [zk: 127.0.0.1:2181(CONNECTED) 22] get /xiaoqiang xiaoqiang is a good man [zk: 127.0.0.1:2181(CONNECTED) 23] create /xiaoqiang/age 17 Created /xiaoqiang/age [zk: 127.0.0.1:2181(CONNECTED) 24] delete /xiaoqiang/age [zk: 127.0.0.1:2181(CONNECTED) 25] deleteall /xiaoqiang
zookeeper 中节点叫znode存储结构上跟文件系统相似,以树级结构进行存储。不一样以外在于znode没有目录的概念,不能执行相似cd之类的命令。znode结构包含以下:
type:节点类型
类型 | 描述 |
---|---|
PERSISTENT | 持久节点 |
PERSISTENT_SEQUENTIAL | 持久序号节点 |
EPHEMERAL | 临时节点(不可在拥有子节点) |
EPHEMERAL_SEQUENTIAL | 临时序号节点(不可在拥有子节点) |
持久化保存的节点,也是默认建立的
#默认建立的就是持久节点 create /test
建立时zookeeper 会在路径上加上序号做为后缀,。很是适合用于分布式锁、分布式选举等场景。建立时添加 -s 参数便可。
#建立序号节点 create -s /test #返回建立的实际路径 Created /test0000000001 create -s /test #返回建立的实际路径2 Created /test0000000002
临时节点会在客户端会话断开后自动删除。适用于心跳,服务发现等场景。建立时添加参数-e 便可。
#建立临时节点, 断开会话 在链接将会自动删除 create -e /temp
与持久序号节点相似,不一样之处在于EPHEMERAL_SEQUENTIAL是临时的会在会话断开后删除。建立时添加 -e -s
create -e -s /temp/seq
# 查看节点属性 stat /luban
其属性说明以下表:
#建立节点的事物ID cZxid = 0x385 #建立时间 ctime = Tue Sep 24 17:26:28 CST 2019 #修改节点的事物ID mZxid = 0x385 #最后修改时间 mtime = Tue Sep 24 17:26:28 CST 2019 # 子节点变动的事物ID pZxid = 0x385 #这表示对此znode的子节点进行的更改次数(不包括子节点) cversion = 0 # 数据版本,变动次数 dataVersion = 0 #权限版本,变动次数 aclVersion = 0 #临时节点所属会话ID ephemeralOwner = 0x0 #数据长度 dataLength = 17 #子节点数(不包括子子节点) numChildren = 0
客户添加 -w 参数可实时监听节点与子节点的变化,而且实时收到通知。很是适用保障分布式状况下的数据一至性。其使用方式以下:
| 命令 | 描述 |
|:----|:----|
| ls -w path | 监听子节点的变化(增,删) |
| get -w path | 监听节点数据的变化 |
| stat -w path | 监听节点属性的变化 |
| printwatches on|off | 触发监听后,是否打印监听事件(默认on) |
ACL全称为Access Control List(访问控制列表),用于控制资源的访问权限。ZooKeeper使用ACL来控制对其znode的防问。基于scheme🆔permission的方式进行权限控制。scheme表示受权模式、id模式对应值、permission即具体的增删改权限位。
scheme:认证模型
| 方案 | 描述 |
|:----|:----|
| world | 开放模式,world表示全世界均可以访问(这是默认设置) |
| ip | ip模式,限定客户端IP防问 |
| auth | 用户密码认证模式,只有在会话中添加了认证才能够防问 |
| digest | 与auth相似,区别在于auth用明文密码,而digest 用sha-1+base64加密后的密码。在实际使用中digest 更常见。 |
permission权限位
| 权限位 | 权限 | 描述 |
|:----|:----|:----|
| c | CREATE | 能够建立子节点 |
| d | DELETE | 能够删除子节点(仅下一级节点) |
| r | READ | 能够读取节点数据及显示子节点列表 |
| w | WRITE | 能够设置节点数据 |
| a | ADMIN | 能够设置节点访问控制列表权限 |
acl 相关命令:
| 命令 | 使用方式 | 描述 |
|:----|:----|:----|
| getAcl | getAcl
| setAcl | setAcl
| addauth | addauth
world权限示例
语法: setAcl
注:world模式中anyone是惟一的值,表示全部人
#建立一个节点 create -e /testAcl #查看节点权限 getAcl /testAcl #返回的默认权限表示 ,全部人拥有全部权限。 'world,'anyone: cdrwa
#设置为rw权限 setAcl /testAcl world:anyone:rw # 能够正常读 get /testAcl # 没法正常建立子节点 create -e /testAcl/t "hi" # 返回没有权限的异常 Authentication is not valid : /testAcl/t
IP权限示例:
语法: setAcl
auth模式示例:
语法:
digest 权限示例:
语法:
注1:密钥 经过sha1与base64组合加密码生成,可经过如下命令生成
echo -n <用户名>:<密码> | openssl dgst -binary -sha1 | openssl base64
注2:为节点设置digest 权限后,访问前必须执行addauth,当前会话才能够防问。
#先 sha1 加密,而后base64加密 echo -n luban:123456 | openssl dgst -binary -sha1 | openssl base64 #返回密钥 2Rz3ZtRZEs5RILjmwuXW/wT13Tk= #设置digest权限 setAcl /luban digest:luban:2Rz3ZtRZEs5RILjmwuXW/wT13Tk=:cdrw
#查看节点 get /luban #显示没有权限访问 org.apache.zookeeper.KeeperException$NoAuthException: KeeperErrorCode = NoAuth for /luban
#给当前会话添加权限账户 addauth digest luban:123456 #在次查看 get /luban #得到返回结果 luban is good man
ACL的特殊说明:
权限仅对当前节点有效,不会让子节点继承。如限制了IP防问A节点,但不妨碍该IP防问A的子节点 /A/B。
还没关注个人公众号?