hadoop生态系统学习之路(十一)Zookeeper的简单使用

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/qiyongkang520/article/details/51137044

今天来给大家介绍下zookeeper的简单使用。之前使用的hbase就依赖zookeeper,选举master。
下面,笔者将分以下几个步骤进行介绍:

一、zookeeper的基本原理

数据模型,如下:
这里写图片描述
ZooKeeper数据模型的结构与Unix文件系统很类似,整体上可以看作是一棵树,每个节点称做一个ZNode。每个ZNode都可以通过其路径唯一标识,比如上图中第三层的第一个ZNode, 它的路径是/app1/c1。在每个ZNode上可存储少量数据(默认是1M, 可以通过配置修改, 通常不建议在ZNode上存储大量的数据),这个特性非常有用。另外,每个ZNode上还存储了其Acl信息,这里需要注意,虽说ZNode的树形结构跟Unix文件系统很类似,但是其Acl与Unix文件系统是完全不同的,每个ZNode的Acl的独立的,子结点不会继承父结点的。
ZooKeeper特性:
1、读、写(更新)模式
在ZooKeeper集群中,读可以从任意一个ZooKeeper Server读,这一点是保证ZooKeeper比较好的读性能的关键;写的请求会先Forwarder到Leader,然后由Leader来通过ZooKeeper中的原子广播协议,将请求广播给所有的Follower,Leader收到一半以上的写成功的Ack后,就认为该写成功了,就会将该写进行持久化,并告诉客户端写成功了。

2、 WAL和Snapshot
和大多数分布式系统一样,ZooKeeper也有WAL(Write-Ahead-Log),对于每一个更新操作,ZooKeeper都会先写WAL, 然后再对内存中的数据做更新,然后向Client通知更新结果。另外,ZooKeeper还会定期将内存中的目录树进行Snapshot,落地到磁盘上,这个跟HDFS中的FSImage是比较类似的。这么做的主要目的,一当然是数据的持久化,二是加快重启之后的恢复速度,如果全部通过Replay WAL的形式恢复的话,会比较慢。

3、FIFO
对于每一个ZooKeeper客户端而言,所有的操作都是遵循FIFO顺序的,这一特性是由下面两个基本特性来保证的:一是ZooKeeper Client与Server之间的网络通信是基于TCP,TCP保证了Client/Server之间传输包的顺序;二是ZooKeeper Server执行客户端请求也是严格按照FIFO顺序的。

4、 Linearizability
在ZooKeeper中,所有的更新操作都有严格的偏序关系,更新操作都是串行执行的,这一点是保证ZooKeeper功能正确性的关键。

二、zookeeper的常用命令

我们可以执行zookeeper-client或者执行/opt/cloudera/parcels/CDH-5.0.0-1.cdh5.0.0.p0.47/lib/zookeeper/bin/zkCli.sh -server localhost,进入zookeeper命令行,如下:
这里写图片描述
然后,执行ls /可以看到:
这里写图片描述
然后,我们可以执行create /qyktest ‘qyktest’创建一个节点,如下:
这里写图片描述
然后,我们执行get /qyktest获取节点值,如下:
这里写图片描述
然后,我们可以执行set /qyktest ‘111’修改节点的值,如下:
这里写图片描述
最后,我们执行delete /qyktest便可删除此节点。
另外,我们还可以在qyktest此节点下继续创建子节点。
好了,几个基本命令就讲到这人啦,其它的命令还有很多,大家可以去查阅下资料。

三、zookeeper的java api操作

关于java api操作zookeeper比较简单,笔者直接贴出代码,如下:

/**
 * Project Name:hive-demo
 * File Name:ZookeeperClient.java
 * Package Name:org.zookeeper.demo
 * Date:2016年4月11日下午9:14:18
 * Copyright (c) 2016, CANNIKIN(http://http://code.taobao.org/p/cannikin/src/) All Rights Reserved.
 *
*/

package org.zookeeper.demo;
/**
 * ClassName:ZookeeperClient <br/>
 * Function: TODO ADD FUNCTION. <br/>
 * Reason:   TODO ADD REASON. <br/>
 * Date:     2016年4月11日 下午9:14:18 <br/>
 * @author   qiyongkang
 * @version  
 * @since    JDK 1.6
 * @see      
 */

import java.io.IOException;
import java.util.concurrent.CountDownLatch;

import org.apache.zookeeper.CreateMode;
import org.apache.zookeeper.KeeperException;
import org.apache.zookeeper.WatchedEvent;
import org.apache.zookeeper.Watcher;
import org.apache.zookeeper.Watcher.Event.KeeperState;
import org.apache.zookeeper.ZooDefs.Ids;
import org.apache.zookeeper.ZooKeeper;

/**
 * 
 * ClassName: ZookeeperClient <br/>
 * Function: zookeeper api <br/>
 * date: 2016年4月12日 下午8:05:43 <br/>
 *
 * @author qiyongkang
 * @version 
 * @since JDK 1.6
 */
public class ZookeeperClient implements Watcher {
    //连接超时时间,10s
    private static final int SESSION_TIMEOUT = 10000;

    //连接的zookeeper server
    private static final String CONNECTION_STRING = "172.31.25.8:2181";

    private static final String ZK_PATH = "/qyktest";

    private ZooKeeper zk = null;

    private CountDownLatch connectedSemaphore = new CountDownLatch(1);

    /**
     * 创建ZK连接
     * 
     * @param connectString
     *            ZK服务器地址列表
     * @param sessionTimeout
     *            Session超时时间
     */
    public void createConnection(String connectString, int sessionTimeout) {
        this.releaseConnection();
        try {
            zk = new ZooKeeper(connectString, sessionTimeout, this);
            connectedSemaphore.await();
        } catch (InterruptedException e) {
            System.out.println("连接创建失败,发生 InterruptedException");
            e.printStackTrace();
        } catch (IOException e) {
            System.out.println("连接创建失败,发生 IOException");
            e.printStackTrace();
        }
    }

    /**
     * 关闭ZK连接
     */
    public void releaseConnection() {
        if (this.zk != null) {
            try {
                this.zk.close();
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
        }
    }

    /**
     * 创建节点
     * 
     * @param path
     *            节点path
     * @param data
     *            初始数据内容
     * @return
     */
    public boolean createPath(String path, String data) {
        try {
            /** 
             * 此处采用的是CreateMode是PERSISTENT  表示The znode will not be automatically deleted upon client's disconnect. 
             * EPHEMERAL 表示The znode will be deleted upon the client's disconnect. 
             */
            String result = this.zk.create(path, data.getBytes(), Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT);
            System.out.println("节点创建成功, Path: " + result + ", content: " + data);
        } catch (KeeperException e) {
            System.out.println("节点创建失败,发生KeeperException");
            e.printStackTrace();
        } catch (InterruptedException e) {
            System.out.println("节点创建失败,发生 InterruptedException");
            e.printStackTrace();
        }
        return true;
    }

    /**
     * 读取指定节点数据内容
     * 
     * @param path
     *            节点path
     * @return
     */
    public String readData(String path) {
        try {
            System.out.println("获取数据成功,path:" + path);
            return new String(this.zk.getData(path, false, null));
        } catch (KeeperException e) {
            System.out.println("读取数据失败,发生KeeperException,path: " + path);
            e.printStackTrace();
            return "";
        } catch (InterruptedException e) {
            System.out.println("读取数据失败,发生 InterruptedException,path: " + path);
            e.printStackTrace();
            return "";
        }
    }

    /**
     * 更新指定节点数据内容
     * 
     * @param path
     *            节点path
     * @param data
     *            数据内容
     * @return
     */
    public boolean writeData(String path, String data) {
        try {
            System.out.println("更新数据成功,path:" + path + ", stat: " + this.zk.setData(path, data.getBytes(), -1));
        } catch (KeeperException e) {
            System.out.println("更新数据失败,发生KeeperException,path: " + path);
            e.printStackTrace();
        } catch (InterruptedException e) {
            System.out.println("更新数据失败,发生 InterruptedException,path: " + path);
            e.printStackTrace();
        }
        return false;
    }

    /**
     * 删除指定节点
     * 
     * @param path
     *            节点path
     */
    public void deleteNode(String path) {
        try {
            this.zk.delete(path, -1);
            System.out.println("删除节点成功,path:" + path);
        } catch (KeeperException e) {
            System.out.println("删除节点失败,发生KeeperException,path: " + path);
            e.printStackTrace();
        } catch (InterruptedException e) {
            System.out.println("删除节点失败,发生 InterruptedException,path: " + path);
            e.printStackTrace();
        }
    }

    public static void main(String[] args) {
        ZookeeperClient sample = new ZookeeperClient();
        //获取连接
        sample.createConnection(CONNECTION_STRING, SESSION_TIMEOUT);

        //读数据
        String qyk = sample.readData("/qyktest");
        System.out.println("qyk:" + qyk);

        String url = sample.readData("/qyk/db/url");
        System.out.println("url" + url);

        String driver = sample.readData("/qyk/db/driver");
        System.out.println("driver" + driver);

        String userName = sample.readData("/qyk/db/userName");
        System.out.println("userName" + userName);

        String password = sample.readData("/qyk/db/password");
        System.out.println("password" + password);

        //创建节点
        sample.createPath(ZK_PATH, "我是节点初始内容");
        System.out.println("数据内容: " + sample.readData(ZK_PATH) + "\n");

        //更新节点
        sample.writeData(ZK_PATH, "更新后的数据");
        System.out.println("数据内容: " + sample.readData(ZK_PATH) + "\n");

        //删除节点
        sample.deleteNode(ZK_PATH);

        //释放连接
        sample.releaseConnection();
    }

    /**
     * 收到来自Server的Watcher通知后的处理。
     */
    @Override
    public void process(WatchedEvent event) {
        System.out.println("收到事件通知:" + event.getState() + "\n");
        if (KeeperState.SyncConnected == event.getState()) {
            connectedSemaphore.countDown();
        }

    }

}

然后,执行可以看到,控制台输出如下:
这里写图片描述

所以,像一些公用的配置,我们可以存到zookeeper里面,之后其它的服务就可以使用了。
好了,关于zookeeper的基本使用就说到这儿啦。

猜你喜欢

转载自blog.csdn.net/qiyongkang520/article/details/51137044