ZooKeeper 实现分布式锁

1. 分布式锁概述

在分布式系统中,为了保证共享资源在并发访问下的数据一致性,需要引入分布式锁。分布式锁是一种在分布式环境下控制多个进程对共享资源进行互斥访问的机制。它与单机环境下的锁(如Java中的synchronizedLock)不同,单机锁只能解决同一JVM内部的并发问题,而分布式锁则需要解决跨JVM、跨机器的并发问题。

2. ZooKeeper实现分布式锁的原理

ZooKeeper是一个分布式协调服务,它提供了数据一致性、高可用性等特性,非常适合用于实现分布式锁。ZooKeeper实现分布式锁主要利用了其以下特性:

2.1 临时顺序节点(EPHEMERAL_SEQUENTIAL)

ZooKeeper的节点可以设置为临时(Ephemeral)和顺序(Sequential)类型。临时节点会在创建该节点的客户端会话结束时自动删除。顺序节点则会在创建时自动在节点名称后面附加一个单调递增的数字。

利用这两个特性,可以实现分布式锁的"排队"机制:

  1. 创建锁节点 :客户端在ZooKeeper上创建一个持久化的父节点,例如/locks,作为所有锁的根目录。
  2. 竞争锁 :当一个客户端想要获取锁时,它会在/locks父节点下创建一个临时顺序子节点,例如/locks/lock-0000000001
  3. 判断是否获得锁 :客户端获取/locks下所有子节点的列表,并判断自己创建的子节点是否是其中序号最小的。如果是,则表示成功获取锁。
  4. 监听前一个节点 :如果客户端创建的子节点不是序号最小的,说明前面还有其他客户端持有锁。此时,该客户端会监听(Watch)比自己序号小的前一个节点。例如,如果客户端创建的是/locks/lock-0000000003,它会监听/locks/lock-0000000002
  5. 释放锁:当持有锁的客户端完成操作后,会删除自己创建的临时节点。由于是临时节点,即使客户端崩溃,该节点也会被ZooKeeper自动删除,从而释放锁。
  6. 唤醒等待者:当被监听的前一个节点被删除时,ZooKeeper会通知监听它的客户端。收到通知的客户端会再次检查自己是否是当前序号最小的节点,如果是,则获取锁。

2.2 节点监听机制(Watcher)

ZooKeeper的Watcher机制允许客户端在节点状态发生变化时(如节点创建、删除、数据改变等)接收到通知。这在分布式锁的实现中至关重要,它避免了客户端频繁地去查询节点状态,从而减少了不必要的网络开销和"羊群效应"(Herd Effect)。

"羊群效应"是指当一个节点发生变化时,所有等待的客户端都被唤醒,然后它们又同时去竞争锁,导致不必要的资源消耗。通过让每个客户端只监听它前面一个节点,可以有效地避免这种问题,实现"首尾相接"的通知机制,保证了锁的传递有序且高效。

2.3 临时节点的自动删除

ZooKeeper的临时节点特性保证了即使客户端在持有锁期间崩溃,其创建的临时节点也会被ZooKeeper自动删除,从而避免了死锁的发生。这大大提高了分布式锁的健壮性。

3. ZooKeeper分布式锁的实现步骤

基于上述原理,实现ZooKeeper分布式锁的典型步骤如下:

  1. 连接ZooKeeper:客户端首先需要建立与ZooKeeper集群的连接。
  2. 创建父节点 :在ZooKeeper中创建一个持久化的根节点,例如/distributed_locks,用于存放所有分布式锁的子节点。
  3. 获取锁
    a. 客户端在/distributed_locks下创建一个临时顺序节点,例如/distributed_locks/lock_
    b. 获取/distributed_locks下所有子节点的列表。
    c. 判断自己创建的节点是否是所有子节点中序号最小的。如果是,则获取锁成功。
    d. 如果不是,则找到比自己序号小的前一个节点,并对其设置Watcher监听。
    e. 进入等待状态,直到接收到前一个节点删除的通知。
    f. 收到通知后,重复步骤b,再次判断是否获取锁。
  4. 释放锁
    a. 执行完业务逻辑后,删除自己创建的临时顺序节点。
    b. 关闭ZooKeeper连接。

4. Java代码示例 (基于Curator框架)

在Java中,通常使用Apache Curator框架来操作ZooKeeper,因为它封装了许多ZooKeeper的复杂操作,提供了更高级别的API,包括分布式锁的实现。Curator提供了InterProcessMutex来实现可重入的分布式排他锁。

首先,添加Maven依赖:

xml 复制代码
<dependency>
    <groupId>org.apache.curator</groupId>
    <artifactId>curator-recipes</n> <!-- 包含分布式锁的实现 -->
    <version>5.2.0</version>
</dependency>
<dependency>
    <groupId>org.apache.curator</groupId>
    <artifactId>curator-framework</artifactId>
    <version>5.2.0</version>
</dependency>
<dependency>
    <groupId>org.apache.curator</groupId>
    <artifactId>curator-client</artifactId>
    <version>5.2.0</version>
</dependency>

然后是代码示例:

java 复制代码
import org.apache.curator.framework.CuratorFramework;
import org.apache.curator.framework.CuratorFrameworkFactory;
import org.apache.curator.framework.recipes.locks.InterProcessMutex;
import org.apache.curator.retry.ExponentialBackoffRetry;

import java.util.concurrent.TimeUnit;

public class ZkDistributedLockExample {

    private static final String ZK_ADDRESS = "127.0.0.1:2181"; // ZooKeeper地址
    private static final String LOCK_PATH = "/distributed_lock"; // 锁的路径

    public static void main(String[] args) {
        CuratorFramework client = null;
        try {
            // 1. 创建Curator客户端
            client = CuratorFrameworkFactory.builder()
                    .connectString(ZK_ADDRESS)
                    .sessionTimeoutMs(60000)
                    .connectionTimeoutMs(30000)
                    .retryPolicy(new ExponentialBackoffRetry(1000, 3)) // 重试策略:初始等待1秒,最多重试3次
                    .build();

            // 2. 启动客户端
            client.start();
            client.blockUntilConnected(); // 阻塞直到连接成功

            System.out.println(Thread.currentThread().getName() + " ZooKeeper客户端连接成功!");

            // 3. 创建分布式锁实例
            InterProcessMutex lock = new InterProcessMutex(client, LOCK_PATH);

            // 模拟多个线程竞争锁
            for (int i = 0; i < 5; i++) {
                new Thread(() -> {
                    try {
                        System.out.println(Thread.currentThread().getName() + " 尝试获取锁...");
                        if (lock.acquire(10, TimeUnit.SECONDS)) { // 尝试获取锁,最多等待10秒
                            try {
                                System.out.println(Thread.currentThread().getName() + " 成功获取锁!执行业务逻辑...");
                                // 模拟业务逻辑处理时间
                                Thread.sleep(2000);
                            } finally {
                                lock.release(); // 释放锁
                                System.out.println(Thread.currentThread().getName() + " 释放锁。");
                            }
                        } else {
                            System.out.println(Thread.currentThread().getName() + " 获取锁失败!");
                        }
                    } catch (Exception e) {
                        e.printStackTrace();
                    }
                }, "Thread-" + i).start();
            }

            // 等待所有线程执行完毕
            Thread.sleep(15000);

        } catch (Exception e) {
            e.printStackTrace();
        } finally {
            if (client != null) {
                client.close();
            }
        }
    }
}

代码说明:

  • CuratorFrameworkFactory.builder().build():用于创建Curator客户端实例,连接ZooKeeper集群。
  • ExponentialBackoffRetry:重试策略,当连接ZooKeeper失败时,会按照指数退避的方式进行重试。
  • InterProcessMutex(client, LOCK_PATH):创建InterProcessMutex实例,它代表了一个可重入的分布式排他锁。LOCK_PATH是锁在ZooKeeper上的路径。
  • lock.acquire(10, TimeUnit.SECONDS):尝试获取锁,如果10秒内未能获取到锁,则返回false。这是一个阻塞方法,直到获取到锁或超时。
  • lock.release():释放锁。务必在finally块中调用,确保锁总是被释放

5. ZooKeeper分布式锁的优缺点

5.1 优点

  • 高可用性:ZooKeeper集群本身具有高可用性,只要集群中大多数节点正常工作,分布式锁服务就能正常提供。
  • 可靠性:利用临时顺序节点和Watcher机制,能够有效避免死锁,并且在客户端崩溃时自动释放锁。
  • 公平性:通过顺序节点,可以实现公平锁,保证先到先得。
  • 避免羊群效应:通过只监听前一个节点,避免了所有等待客户端同时被唤醒的问题。

5.2 缺点

  • 性能相对较低:与基于Redis等内存数据库实现的分布式锁相比,ZooKeeper的性能相对较低,因为每次加锁和释放锁都需要与ZooKeeper集群进行网络通信,涉及到节点的创建、删除和监听,这些操作都需要经过ZooKeeper的Leader节点处理并同步到Follower节点,有一定的延迟。
  • 实现复杂度较高:虽然Curator框架简化了开发,但其底层原理和机制相对复杂,需要对ZooKeeper有深入的理解才能更好地使用和排查问题。
  • 依赖ZooKeeper集群:系统的可用性依赖于ZooKeeper集群的稳定性。

6. 最佳实践

  • 选择合适的锁路径:为不同的业务场景或共享资源定义清晰、有意义的锁路径。
  • 合理设置会话超时时间:ZooKeeper的会话超时时间决定了客户端与服务器断开连接后,临时节点被删除的时间。应根据业务需求和网络状况合理设置,避免过短导致误释放锁,或过长导致死锁。
  • 使用Curator框架:强烈推荐使用Apache Curator等成熟的ZooKeeper客户端框架,它们提供了丰富的特性和更稳定的API,简化了分布式锁的实现。
  • finally块中释放锁:确保无论业务逻辑是否发生异常,锁都能被正确释放,防止死锁。
  • 考虑锁的粒度:根据业务需求,选择合适的锁粒度。过粗的粒度会降低并发性,过细的粒度会增加锁的开销。
  • 监控ZooKeeper集群:对ZooKeeper集群进行实时监控,包括连接状态、节点数量、延迟等指标,确保其健康运行。

7. 总结

ZooKeeper作为一款优秀的分布式协调服务,为分布式锁的实现提供了可靠的基础。通过其临时顺序节点和Watcher机制,可以构建出高可用、可靠且公平的分布式锁。虽然其性能可能不如基于内存数据库的方案,但在对锁的可靠性和一致性要求较高的场景下,ZooKeeper分布式锁是一个非常好的选择。