Zookeeper:Java API
关于
与ZooKeeper集合进行交互的应用程序称为 ZooKeeper客户端或简称客户端。ZooKeeper应用的开发主要通过Java客户端API去连接和操作ZooKeeper集群。
可供选择的Java客户端API有:
- ZooKeeper官方的Java客户端API;
- ZkClient;
- Curator;
Zookeeper API(官方API)
ZooKeeper 官方API的核心部分是ZooKeeper类(“org.apache.zookeeper.ZooKeeper”),它提供了基本的操作。例如,“创建会话”、“创建节点”、“读取节点”、“更新数据”、“删除节点”和“检查节点是否存在”等。
创建连接
ZooKeeper 类通过其构造函数提供 connect 功能。构造函数的签名如下 :
ZooKeeper(String connectionString, int sessionTimeout, Watcher watcher)
- connectionString - ZooKeeper集合主机。
- sessionTimeout - 会话超时(以毫秒为单位)。
- watcher - 实现“监视器”界面的对象。ZooKeeper集合通过监视器对象返回连接状态。
示例:
// import java classes
import java.io.IOException;
import java.util.concurrent.CountDownLatch;
// import zookeeper classes
import org.apache.zookeeper.KeeperException;
import org.apache.zookeeper.WatchedEvent;
import org.apache.zookeeper.Watcher;
import org.apache.zookeeper.Watcher.Event.KeeperState;
import org.apache.zookeeper.ZooKeeper;
import org.apache.zookeeper.AsyncCallback.StatCallback;
import org.apache.zookeeper.KeeperException.Code;
import org.apache.zookeeper.data.Stat;
public class ZooKeeperConnection {
// declare zookeeper instance to access ZooKeeper ensemble
private ZooKeeper zoo;
final CountDownLatch connectedSignal = new CountDownLatch(1);
// Method to connect zookeeper ensemble.
public ZooKeeper connect(String host) throws IOException,InterruptedException {
zoo = new ZooKeeper(host, 5000, new Watcher() {
public void process(WatchedEvent we) {
if (we.getState() == KeeperState.SyncConnected) {
connectedSignal.countDown();
}
}
});
connectedSignal.await();
return zoo;
}
// Method to disconnect from zookeeper server
public void close() throws InterruptedException {
zoo.close();
}
}
创建ZNode
create(String path, byte[] data, List<ACL> acl, CreateMode createMode)
- path - Znode 路径。例如,/myapp1,/myapp2,/myapp1/mydata1,myapp2/mydata1/myanothersubdata
- data - 要存储在指定 znode 路径中的数据
- acl - 要创建的节点的访问控制列表。ZooKeeper API提供了一个静态接口 ZooDefs.Ids 来获取一些基本的acl列表。例如,ZooDefs.Ids.OPEN_ACL_UNSAFE返回打开znode的acl列表。
- createMode - 节点的类型,即临时,顺序或两者。这是一个枚举。
示例:
public class ZKCreate {
private static ZooKeeper zk;
private static ZooKeeperConnection conn;
public static void createNode() {
String path = "/MyFirstZnode";
byte[] data = "My first zookeeper app".getBytes();
try {
conn = new ZooKeeperConnection();
zk = conn.connect("localhost");
zk.create(path, data, ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT);
} catch (Exception e) {
System.out.println(e.getMessage());
} finally {
conn.close();
}
}
}
检查ZNode的存在
如果指定的znode存在,则返回一个znode的元数据(Stat);
exists(String path, boolean watcher)
- path- Znode路径
- watcher - 布尔值,用于指定是否监视指定的 znode
示例:
public class ZKExists {
private static ZooKeeper zk;
private static ZooKeeperConnection conn;
public static void existsNode() {
String path = "/MyFirstZnode"; // Assign znode to the specified path
try {
conn = new ZooKeeperConnection();
zk = conn.connect("localhost");
Stat stat = zk.exists(path, true);
if(stat != null) {
System.out.println("Node exists and the node version is " + stat.getVersion());
} else {
System.out.println("Node does not exists");
}
} catch(Exception e) {
System.out.println(e.getMessage());
} finally {
conn.close();
}
}
}
Node exists and the node version is 1.
读取ZNode
获取附加在指定znode中的数据及其状态:
getData(String path, Watcher watcher, Stat stat)
- path - Znode路径。
- watcher - 监视器类型的回调函数。当指定的znode的数据改变时,ZooKeeper集合将通过监视器回调进行通知。这是一次性通知。
- stat - 返回znode的元数据。
示例:
public class ZKGetData {
private static ZooKeeper zk;
private static ZooKeeperConnection conn;
public static void readNode() {
String path = "/MyFirstZnode";
final CountDownLatch connectedSignal = new CountDownLatch(1);
try {
conn = new ZooKeeperConnection();
zk = conn.connect("localhost");
Stat stat = zk.exists(path,true);
if(stat != null) {
byte[] b = zk.getData(path, new Watcher() {
public void process(WatchedEvent we) {
if (we.getType() == Event.EventType.None) {
switch(we.getState()) {
case Expired:
connectedSignal.countDown();
break;
}
} else {
String path = "/MyFirstZnode";
try {
byte[] bn = zk.getData(path, false, null);
String data = new String(bn, "UTF-8");
System.out.println(data);
connectedSignal.countDown();
} catch(Exception ex) {
System.out.println(ex.getMessage());
}
}
}
}, null);
String data = new String(b, "UTF-8");
System.out.println(data);
connectedSignal.await();
} else {
System.out.println("Node does not exists");
}
} catch(Exception e) {
System.out.println(e.getMessage());
} finally {
conn.close();
}
}
}
更新ZNode
修改指定znode中附加的数据:
setData(String path, byte[] data, int version)
- path- Znode路径
- data - 要存储在指定znode路径中的数据。
- version- znode的当前版本。每当数据更改时,ZooKeeper会更新znode的版本号。
示例:
public class ZKSetData {
private static ZooKeeper zk;
private static ZooKeeperConnection conn;
public static void updateNode() {
String path= "/MyFirstZnode";
byte[] data = "Success".getBytes();
try {
conn = new ZooKeeperConnection();
zk = conn.connect("localhost");
zk.setData(path, data, zk.exists(path,true).getVersion());
} catch(Exception e) {
System.out.println(e.getMessage());
} finally {
conn.close();
}
}
}
获取ZNode子节点
获取特定znode的所有子节点:
getChildren(String path, Watcher watcher)
- path - Znode路径。
- watcher - 监视器类型的回调函数。当指定的znode被删除或znode下的子节点被创建/删除时,ZooKeeper集合将进行通知。这是一次性通知。
示例:
public class ZKGetChildren {
private static ZooKeeper zk;
private static ZooKeeperConnection conn;
public static void getNodeChildren() {
String path = "/MyFirstZnode";
try {
conn = new ZooKeeperConnection();
zk = conn.connect("localhost");
Stat stat = zk.exists(path,true);
if(stat!= null) {
//“getChildren" method- get all the children of znode.It has two args, path and watch
List <String> children = zk.getChildren(path, false);
for(int i = 0; i < children.size(); i++)
System.out.println(children.get(i)); //Print children's
} else {
System.out.println("Node does not exists");
}
} catch(Exception e) {
System.out.println(e.getMessage());
} finally {
conn.close();
}
}
}
删除ZNode
delete(String path, int version)
- path - Znode路径。
- version - znode的当前版本。
示例:
public class ZKDelete {
private static ZooKeeper zk;
private static ZooKeeperConnection conn;
public static void deleteNode() {
String path = "/MyFirstZnode";
try {
conn = new ZooKeeperConnection();
zk = conn.connect("localhost");
zk.delete(path, zk.exists(path,true).getVersion());
} catch(Exception e) {
System.out.println(e.getMessage());
} finally {
conn.close();
}
}
}
总结
使用ZooKeeper API,应用程序可以连接,交互,操作数据,协调,最后断开与ZooKeeper集合的连接。
- ZooKeeper API具有丰富的功能,以简单和安全的方式获得ZooKeeper集合的所有功能。
- ZooKeeper API提供同步和异步方法。【???】
不过,对于实际开发来说,ZooKeeper官方API有一些不足之处,具体如下:
- ZooKeeper的Watcher监测是一次性的,每次触发之后都需要重新进行注册。
- 会话超时之后没有实现重连机制。
- 异常处理烦琐,ZooKeeper提供了很多异常,对于开发人员来说可能根本不知道应该如何处理这些抛出的异常。
- 仅提供了简单的 byte[] 数组类型的接口,没有提供 Java POJO 级别的序列化数据处理接口。
- 创建节点时如果抛出异常,需要自行检查节点是否存在。
- 无法实现级联删除。
总之,ZooKeeper官方API功能比较简单,在实际开发过程中比较笨重,一般不推荐使用。可供选择的Java客户端API之二,即第三方开源客户端API,主要有ZkClient和Curator。
ZkClient
ZkClient 是一个开源客户端,在ZooKeeper原生API接口的基础上进行了包装,更便于开发人员使用。
- ZkClient客户端在一些著名的互联网开源项目中得到了应用,例如,阿里的分布式Dubbo框架对它进行了无缝集成。
ZkClient解决了ZooKeeper原生API接口的很多问题。例如,ZkClient提供了更加简洁的API,实现了会话超时重连、反复注册Watcher等问题。
示例:使用ZkClient客户端创建ZNode节点
ZkClient zkClient = new ZkClient("192.168.1.105:2181", 10000, 10000, new SerializableSerializer());
//根节点路径
String PATH = "/test";
//判断是否存在
boolean rootExists = zkClient.exists(PATH);
//如果存在,获取地址列表
if(!rootExists){
zkClient.createPersistent(PATH);
}
String zkPath = "/test/node-1";
boolean serviceExists = zkClient.exists(zkPath);
if(!serviceExists){
zkClient.createPersistent(zkPath);
}
总结
虽然ZkClient对原生API进行了封装,但也有它自身的不足之处,具体如下:
- ZkClient社区不活跃,文档不够完善,几乎没有参考文档。
- 异常处理简化(抛出RuntimeException)。
- 重试机制比较难用。
- 没有提供各种使用场景的参考实现。
Curator
Curator是Apache基金会的顶级项目之一,Curator具有更加完善的文档,另外还提供了一套易用性和可读性更强的Fluent风格的客户端API框架。 “Guava is to Java that Curator to ZooKeeper”——Patrixck Hunt
Curator 是 Netflix 公司开源的一套ZooKeeper客户端框架,其优点如下:
- 和 ZkClient 一样它解决了非常底层的细节开发工作,包括连接、重连、反复注册Watcher的问题以及NodeExistsException异常等。
- 还提供了一些比较普遍的、开箱即用的、分布式开发用的解决方案,例如Recipe、共享锁服务、Master选举机制和分布式计算器等,
- 另外,Curator还提供了一套非常优雅的【链式调用】API,与ZkClient客户端API相比,Curator的API优雅太多了,以创建ZNode节点为例,让大家实际对比一下。
- curator 相关参考链接:http://curator.apache.org/。
示例:使用Curator客户端创建ZNode节点
CuratorFramework client = CuratorFrameworkFactory.newClient(connectionString, retryPolicy);
String zkPath = "/test/node-1";
client.create().withMode(mode).forPath(zkPath);
环境准备
Curator 包含了以下几个包:
- curator-framework:是对ZooKeeper的底层API的一些封装。
- curator-client:提供了一些客户端的操作,例如重试策略等。
- curator-recipes:封装了一些高级特性,如:Cache事件监听、选举、分布式锁、分布式计数器、分布式Barrier等。
Maven 依赖:
- Curator与ZooKeeper的版本需要相互匹配(以Curator4.0.0、ZooKeeper3.4.x为例)
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-client</artifactId>
<version>4.0.0</version>
<exclusions>
<exclusion>
<groupId>org.apache.ZooKeeper</groupId>
<artifactId>ZooKeeper</artifactId>
</exclusion>
</exclusions>
</dependency>
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-framework</artifactId>
<version>4.0.0</version>
<exclusions>
<exclusion>
<groupId>org.apache.ZooKeeper</groupId>
<artifactId>ZooKeeper</artifactId>
</exclusion>
</exclusions>
</dependency>
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-recipes</artifactId>
<version>4.0.0</version>
<exclusions>
<exclusion>
<groupId>org.apache.ZooKeeper</groupId>
<artifactId>ZooKeeper</artifactId>
</exclusion>
</exclusions>
</dependency>
创建Curator客户端
在使用 curator-framework 包操作ZooKeeper前,首先要创建一个客户端实例——这是一个CuratorFramework类型的对象。
创建Curator客户端,有两种方法:
- 使用工厂类 CuratorFrameworkFactory 的静态newClient()方法。(简化版本:只需要设置ZK集群的连接地址和重试策略)
- 使用工厂类 CuratorFrameworkFactory 的静态builder构造者方法。(复杂的版本:可以设置连接超时connectionTimeoutMs、会话超时sessionTimeoutMs等其他与会话创建相关的选项)
public class ClientFactory
{
// 重试策略:第一次重试等待1s,第二次重试等待2s,第三次重试等待4s
// 第一个参数:等待时间的基础单位,单位为毫秒
// 第二个参数:最大重试次数
ExponentialBackoffRetry retryPolicy = new ExponentialBackoffRetry(1000, 3);
/**
* 第一种方法:newClient()
* @param connectionStringzk的连接地址
* @return CuratorFramework实例
*/
public static CuratorFramework createSimple(String connectionString) {
return CuratorFrameworkFactory.newClient(connectionString, retryPolicy);
}
/**
* 第一种方法:build()
* @param connectionStringzk的连接地址
* @param retryPolicy重试策略
* @param connectionTimeoutMs连接超时时间
* @param sessionTimeoutMs会话超时时间
* @return CuratorFramework实例
*/
public static CuratorFramework createWithOptions(
String connectionString, RetryPolicyretryPolicy,
int connectionTimeoutMs,int sessionTimeoutMs)
{
// 用builder方法创建CuratorFramework实例
return CuratorFrameworkFactory.builder()
.connectString(connectionString)
.retryPolicy(retryPolicy)
.connectionTimeoutMs(connectionTimeoutMs)
.sessionTimeoutMs(sessionTimeoutMs)
// 其他的创建选项
.build();
}
}
创建ZNode
一般使用create()方法的链式调用来完成节点的创建:
- create()方法并不会立即创建节点,仅仅返回一个CreateBuilder构造者实例,所以不需要传入 ZNode 的节点路径;
- 通过该 CreateBuilder 构造者实例,可以设置创建节点时的一些行为参数;
- 最后通过构造者实例的forPath(String znodePath,byte[]payload)方法来完成真正的节点创建,此时才需要 ZNode 的节点路径。
package com.crazymakercircle.zk.basicOperate;
import com.crazymakercircle.zk.ClientFactory;
import lombok.extern.slf4j.Slf4j;
import org.apache.curator.framework.CuratorFramework;
import org.apache.curator.utils.CloseableUtils;
import org.apache.ZooKeeper.AsyncCallback;
import org.apache.ZooKeeper.CreateMode;
import org.apache.ZooKeeper.data.Stat;
import org.junit.Test;
import java.util.List;
/**
* 创建节点
*/
@Test
public void createNode() {
//创建客户端
CuratorFramework client = ClientFactory.createSimple(ZK_ADDRESS);
try {
//启动客户端实例,连接服务器
client.start();
// 创建一个ZNode节点
// 节点的数据为 payload
String data = "hello";
byte[] payload = data.getBytes("UTF-8");
String zkPath = "/test/CRUD/node-1";
client.create()
.creatingParentsIfNeeded()
.withMode(CreateMode.PERSISTENT)
.forPath(zkPath, payload);
} catch (Exception e) {
e.printStackTrace();
} finally {
CloseableUtils.closeQuietly(client);
}
}
- 如上,CreateBuilder 构造者实例的“withMode()”方法,设置了节点的类型为“CreateMode.PERSISTENT”类型,表示节点的类型为持久化节点。
节点类型
ZooKeeper 节点有 4 种类型:
- PERSISTENT:持久化节点
- 节点创建后就一直存在,直到有删除操作来主动清除这个节点;
- PERSISTENT_SEQUENTIAL:持久化顺序节点
- 生命周期与“持久化节点”一致;
- 父节点为其第一级子节点维护一份顺序编码,以记录个子节点创建的先后顺序(为节点名加上数字后缀);
- PHEMERAL:临时节点
- 临时节点的生命周期和客户端会话绑定(客户端会话失效,则该会话创建的临时节点自动被清除);
- 注意,是“会话失效”,而非“连接断开”;当客户端会话失效后,所产生的节点并非立即消失,而是过一段时间(大概是10秒以内)。
- 【临时节点下面不能创建子节点】;
- 临时节点的生命周期和客户端会话绑定(客户端会话失效,则该会话创建的临时节点自动被清除);
- EPHEMERAL_SEQUENTIAL:临时顺序节点
读取ZNode
在Curator框架中,与节点读取的有关的方法主要有三个:
- 首先是判断节点是否存在,调用checkExists方法。
- 其次是获取节点的数据,调用getData方法。
- 最后是获取子节点列表,调用getChildren方法。
package com.crazymakercircle.zk.basicOperate;
import com.crazymakercircle.zk.ClientFactory;
import lombok.extern.slf4j.Slf4j;
import org.apache.curator.framework.CuratorFramework;
import org.apache.curator.utils.CloseableUtils;
import org.apache.ZooKeeper.AsyncCallback;
import org.apache.ZooKeeper.CreateMode;
import org.apache.ZooKeeper.data.Stat;
import org.junit.Test;
import java.util.List;
/**
* 读取节点
*/
@Test
public void readNode() {
//创建客户端
CuratorFramework client = ClientFactory.createSimple(ZK_ADDRESS);
try {
//启动客户端实例,连接服务器
client.start();
String zkPath = "/test/CRUD/node-1";
Stat stat = client.checkExists().forPath(zkPath);
if (null != stat) {
//读取节点的数据
byte[] payload = client.getData().forPath(zkPath);
String data = new String(payload, "UTF-8");
log.info("read data:", data);
String parentPath = "/test";
List<String> children = client.getChildren().forPath(parentPath);
for (String child : children) {
log.info("child:", child);
}
}
} catch (Exception e) {
e.printStackTrace();
} finally {
CloseableUtils.closeQuietly(client);
}
}
更新ZNode
节点的更新分为同步更新与异步更新。
同步更新
调用setData()方法进行同步更新:
package com.crazymakercircle.zk.basicOperate;
import com.crazymakercircle.zk.ClientFactory;
import lombok.extern.slf4j.Slf4j;
import org.apache.curator.framework.CuratorFramework;
import org.apache.curator.utils.CloseableUtils;
import org.apache.ZooKeeper.AsyncCallback;
import org.apache.ZooKeeper.CreateMode;
import org.apache.ZooKeeper.data.Stat;
import org.junit.Test;
import java.util.List;
/**
* 更新节点
*/
@Test
public void updateNode() {
//创建客户端
CuratorFramework client = ClientFactory.createSimple(ZK_ADDRESS);
try {
//启动客户端实例,连接服务器
client.start();
String data = "hello world";
byte[] payload = data.getBytes("UTF-8");
String zkPath = "/test/CRUD/node-1";
client.setData().forPath(zkPath, payload);
} catch (Exception e) {
e.printStackTrace();
} finally {
CloseableUtils.closeQuietly(client);
}
}
异步更新
通过“SetDataBuilder”构造者实例的“inBackground(AsyncCallback callback)”方法,设置一个 AsyncCallback 回调实例:
- 异步执行完成之后,SetDataBuilder 构造者实例会再执行 AsyncCallback 实例的“processResult(...)”方法中的回调逻辑,即可完成更新后的其他操作。
/**
* 更新节点 - 异步模式
*/
@Test
public void updateNodeAsync() {
//创建客户端
CuratorFramework client = ClientFactory.createSimple(ZK_ADDRESS);
try {
//异步更新完成,回调此实例
AsyncCallback.StringCallback callback = new AsyncCallback.StringCallback() {
//回调方法
@Override
public void processResult(int i, String s, Object o, String s1)
{
System.out.println(
"i = " + i + " | " +
"s = " + s + " | " +
"o = " + o + " | " +
"s1 = " + s1
);
}
};
//启动客户端实例,连接服务器
client.start();
String data = "hello ,every body! ";
byte[] payload = data.getBytes("UTF-8");
String zkPath = "/test/CRUD/remoteNode-1";
client.setData()
.inBackground(callback) //设置回调实例
.forPath(zkPath, payload);
Thread.sleep(10000);
} catch (Exception e) {
e.printStackTrace();
} finally {
CloseableUtils.closeQuietly(client);
}
}
删除ZNode
节点的删除同更新一样,分为同步删除与异步删除。
同步删除
调用delete()方法进行同步删除:
package com.crazymakercircle.zk.basicOperate;
import com.crazymakercircle.zk.ClientFactory;
import lombok.extern.slf4j.Slf4j;
import org.apache.curator.framework.CuratorFramework;
import org.apache.curator.utils.CloseableUtils;
import org.apache.ZooKeeper.AsyncCallback;
import org.apache.ZooKeeper.CreateMode;
import org.apache.ZooKeeper.data.Stat;
import org.junit.Test;
import java.util.List;
/**
* 删除节点
*/
@Test
public void deleteNode() {
//创建客户端
CuratorFramework client = ClientFactory.createSimple(ZK_ADDRESS);
try {
//启动客户端实例,连接服务器
client.start();
//删除节点
String zkPath = "/test/CRUD/remoteNode-1";
client.delete().forPath(zkPath);
//删除后查看结果
String parentPath = "/test";
List<String> children = client.getChildren().forPath(parentPath);
for (String child : children) {
log.info("child:", child);
}
} catch (Exception e) {
e.printStackTrace();
} finally {
CloseableUtils.closeQuietly(client);
}
}
异步删除
异步删除思路同“异步更新”是一样的:异步删除同样需要用到“DeleteBuilder”构造者实例的“inBackground(AsyncCallback asyncCallback)”方法去设置回调。
总结
关于操作 ZNode 的方法一般通过链式调用完成:
- 其方法返回“构造者实例”,操作不会立即执行;
- (如“CreateBuilder”、“ExistsBuilder”、“GetDataBuilder”、“GetChildrenBuilder”、“SetDataBuilder”、“DeleteBuilder”)
- 在链式调用最末端调用“forPath(String znodePath)”方法执行实际的操作。
“更新”和“删除”操作可以异步执行,通过对应“构造者示例”的“inBackground(AsyncCallback asyncCallback)”方法设置回调。