阿里 P7二面:Redis 执行 Lua,能保证原子性吗?

你好,我是猿java

Redis 和 Lua,两个看似风流马不相及的技术框架,为什么能产生"爱"的火花?面试中的高频问题:Redis 执行 Lua,到底能不能保证原子性?今天就来聊一聊。

一、原子性

在回答问题之前,似乎需要对"原子性"这个概念有一个清新的认识,因此,我们首先要分析的是原子性的概念。

关系型数据库的原子性

通常意义上,我们说的原子性是指关系型数据库RDBMS(比如 MySQL)的原子性,也就是 ACID(Atomicity、Consistency、Isolation、Durability)中 Atomicity这一项特性。

ACID 中的原子性指是:事务中的所有操作要么全部执行成功,要么全部失败回滚。

这里以银行转账这个生活实例来解释原子性:账户A 给 账户B 转账100元,原子性就是指账户A减去100元的同时,账户B必须增加100元,如果账户A减少100元,账户B没有增加100元,该操作就不具备原子性,需要进行回滚,将账户A减少的100元加回去。Java代码实现如下:

Lua 原子性

Lua 本身并没有提供对于原子性的直接支持,它只是一种脚本语言,通常是嵌入到其他宿主程序中运行,比如 Redis。

在 Redis中,执行 Lua脚本的原子性是指:整个 Lua脚本在执行期间,不会被其他客户端的命令打断。

为了更好地理解 Redis执行 Lua的原子性,这里以 Lua脚本中需要完成 SET key1 value1INCRBY key2 value2SET key3 value3 三个命令为例:

上述例子中,整个 luaScript 字符串脚本作为一个整体被执行且不被其他事务打断,这就是一个原子性的操作。

好了,总结下 ACID的原子性和 Redis执行 Lua脚本原子性在概念上的差异:

  • ACID的原子性是指:命令要么全执行,要么全部不执行;
  • Redis中执行 Lua脚本原子性是指:Lua脚本需要作为一个整体执行且不被其他事务打断,至于 Lua脚本里面的命令是否必须全部成功,或者全部失败,并不要求。关于这一点,在下面的内容会详细解释;

二、Redis 事务

在分析原子性概念时,我们可以发现"原子性"其实就是事务中的一项特性,因此,接下来分析 Redis的事务也就顺理成章了。下图是 Redis官方对事务描述的摘要:

文档看起来很长,总结成一句话:Redis 事务允许执行一批命令,通过执行 MULTI命令开启事务,执行 EXEC命令结束事务,WATCH 和 DISCARD 配合事务一起使用,提供了一种 CAS(check-and-set) 乐观锁的机制。WATCH 用于监听 Key,如果被监听的 Key有任何一个发生变化,则中止事务(被动关闭事务),而 DISCARD 用于主动中止事务。

MULTI/EXEC 命令****

用一个示例来理解 MULTI/EXEC:

通过执行的结果可以看出:Redis的事务是以 MULTI命令开启,以 EXEC命令结束,期间所有的命令都是先进入队列,只有执行 EXEC命令时,才会把队列中的所有命令顺序串行执行,并且返回一个所有命令执行结果的数组,包括命令执行的错误信息。

需要注意的是:在 EXEC 执行后,即使事务队列中有命令执行失败,队列中的所有其他命令也会被处理,Redis 不会停止执行这些命令。

DISCARD 和 WATCH 也是 Redis 中用于事务的两个命令,它们与 MULTI 和 EXEC 一起使用,提供更复杂的事务处理机制。

WATCH 命令

WATCH 命令用于监听一个或多个 Key,如果在执行事务期间这些 Key中任何一个Key的 value被其他事务修改,当前整个事务将会被中止。(需要注意:低于 6.0.9 的 Redis 版本,Key过期不会中止事务)

如下示例:事务1 watch key1 key2,事务2在事务1执行期间修改 key2 = 10,当事务1执行 exec命令时,因为 watch监听到 key2被其他事务(事务2)修改了(value=10) , 因此事务1被取消,事务队列中的所有命令被清除,即 set key1 value1incrby key 2两条命令都不执行,key2的 value还是10;

事务1 事务2
watch key1 key2
multi
set key1 value1
incrby key2 2 set key2 10
exec
keys * // 只有key2=10 keys * // 只有key2=10

DISCARD 命令

DISCARD 命令用于中止事务。

如下示例,执行 DISCARD命令后,当前事务被中止,因此,执行 EXEC 时会报"ERR EXEC without MULTI"错误。

事务中的错误

事务中主要会出现两种类型的错误:

  1. 事务命令进入事务队列之前出错。例如,命令语法错误(参数错误、命令名称错误等),或者可能存在一些关键情况,比如内存不足。如下示例,命令incr key2 1/0 在进入事务队列之前报错,所以,当前事务被中止,执行 EXEC命令会报错:

  2. 调用 EXEC 命令后,事务队列中的命令执行失败。例如,对字符串值进行加1操作。如下示例,key的 value是字符串,当对 key 执行incr key 操作时报错,因此,该条命令执行失败:

事务回滚

Redis的事务不支持回滚。 官方说明如下:

Redis 不支持事务回滚,因为支持回滚会对 Redis 的简单性和性能产生重大影响。

官方说明简明扼要,其实,多加思考也能理解:"Redis" 是 "REmote DIctionary Server" 的缩写,翻译为"远程字典服务",设计的初衷是用于缓存,追求快速高效。而了解过 ACID事务的小伙伴应该能明白事务回滚的复杂度,因此,Redis不支持事务回滚似乎也合情合理。

到此,我们也对 Redis事务做个小结:Redis的事务由 MULTI/EXEC 两个命令完成,WATCH/DISCARD 两个命令的加持,给 Redis事务提供了 CAS 乐观锁机制。Redis 事务不支持回滚,它和关系型数据库(比如 MySQL)的事务(ACID)是不一样的。

三、Redis 如何执行 Lua?

分析完原子性和 Redis事务这些理论知识后,我们就得动手实操,看看 Redis是如何执行 Lua的。

一般情况下,Redis执行 Lua常用的方法有 2种:

  1. 原生命令,比如 EVAL/EVALSHA命令等;
  2. 编程工具,比如编程语言中提供的三方工具包或类库;

在编写 Lua脚本时,需要注意区分 redis.call() 和 redis.pcall() 两个命令的使用。

EVAL

语法:

css 复制代码
EVAL script numkeys [key [key ...]] [arg [arg ...]]

EVAL语法很简单,EVAL script numkeys 是必填项,[key [key ...]] [arg [arg ...]]是选填项。

如下示例截图,分别展示了不传Key,传 1个key 和 2个 key 3种场景:

下图示例展示了 [key [key ...]] [arg [arg ...]] 和 numkeys 匹配错误时报错的场景:

redis.call()

redis.call() 用于执行 Redis的命令。当命令执行出错时,会阻断整个脚本执行,并将错误信息返回给客户端。

如下示例:当执行INCRBY key2 1/0 失败时,会抛异常,后续流程被阻断,即SET key3 value3没有被执行。

Redis原生命令执行示例如下:

less 复制代码
# Redis Lua callEVAL "redis.call('SET', 'key1', 'value1'); redis.call('INCRBY', 'key2', 1/0); redis.call('SET', 'key3', 'value3')" 0

使用 Jedis框架执行 Lua示例如下:

查看 Lua执行后各个key的值,截图如下:

redis.pcall()

redis.pcall() 也用于执行 Redis的命令。当命令执行出错时,不会阻断脚本的执行,而是内部捕获错误,并继续执行后续的命令。

如下示例:当执行INCRBY key2 1/0 失败时,不会抛异常,后续流程继续执行,即SET key3 value3 也被执行。

Redis原生命令执行示例:

less 复制代码
# Redis Lua pcallEVAL "redis.pcall('SET', 'key1', 'value1'); redis.pcall('INCRBY', 'key2', 1/0); redis.pcall('SET', 'key3', 'value3')" 0

使用 Jedis框架执行 Lua示例:

对于 Lua中 redis.call() 和 redis.pcall() 如何选择,需要根据实际业务来判断,标准是:当 Lua脚本中某条命令执行出错时,是否需要阻断后续的命令执行。

四、如何保证原子性?

Redis是典型的 C/S(Client/Server) 模型,如下图:

这里以 Redis单机部署为例,讲解如何保证原子性。当客户端向服务器发送一段带有 Lua 脚本的请求时,Redis会把该 Lua脚本当作一个整体,将 Lua脚本加载到一个脚本缓存中,因为 Redis读写命令是单线程操作,因此,Lua脚本的读写在 Redis服务器上可以简单地抽象成下图,所有的 Lua脚本会按照进入顺序放入队列中,然后串行进行读写,这样就保证了原子性:

需要说明:Redis 有 3种不同的部署方式,部署方式不同,原子性的保证也不一样。

  • 单机部署

    不管 Lua脚本中操作的 key是不是同一个,都能保证原子性;

  • 主从部署

    ****Redis 主从复制是用于将主节点的数据同步到从节点,以保持数据的一致性。而Redis的所有写操作都在主节点上,所以,不管 Lua脚本中操作的 key是不是同一个,都能保证原子性;

    需要注意:当主节点执行写命令时,从节点会异步地复制这些写操作。在这个复制的过程中,从节点的数据可能与主节点存在一定的延迟。因此,如果在 Lua 脚本中包含读操作,并且该脚本在主节点上执行,可能会读到最新的数据,但如果在从节点上执行,可能会读到稍有延迟的数据。

  • Cluster部署

    如果 Lua脚本操作的 key是同一个,能保证原子性;

    如果操作的 Key不相同,可能被 hash 到不同的 slot,也可能 hash 到相同的 slot,所以不一定能保证原子性;

    因此,在 Cluster集群部署的环境下使用 Lua脚本时一定要注意:Lua脚本中操作的是同一个 Key;

五、面试该如何回答?

在面试中,Redis 执行 Lua脚本时,能否保证原子性?这个问题如何作答?

  1. 第一步,需要解释这里的原子性是什么?它和关系数据事务 ACID中的一致性的差异是什么?消除原子性在具体载体(RDBMS/NoSQL)上概念的差异;参考#1
  2. 第二步,需要解释 Redis的事务,说明 RDBMS/NoSQL 在事务上的差异点;
  3. 第三步,需要解释 Redis在不同部署方式下原子性能否保证。Redis部署方式有3种:单机部署,主从部署,Cluster集群部署,需要说明在哪些部署方式下能保证原子性,哪些不能保证原子性;参考 #2
  4. 第四步,解释 Redis 执行 Lua脚本是如何保证原子性;
  5. 第五步,分析下 Redis的单线程模型 和 IO多路复用模型(加分项),这步是可选项;

六、为什么需要 Lua?

既然 Redis事务能保证原子性,为什么还需要 Lua脚本呢?

  1. Lua 脚本一般比 MULTI/EXEC 更快、更简单;
  2. Redis 事务中,事务队列中的所有命令都必须在 EXEC命令执行才会被执行,对于多个命令之间存在依赖关系,比如后面的命令需要依赖上一个命令结果的场景,Redis事务无法满足,因此 Lua 脚本更适合复杂的场景;
  3. Redis 事务能做的 Lua能做,Redis事务做不到的 Lua也能做;

七、Lua注意事项

Redis执行 Lua脚本时,Lua的编写需要注意以下几个点:

  1. 不要在 Lua脚本中使用阻塞命令(如BLPOP、BRPOP等)。因此这些命令可能会导致 Redis服务器在执行脚本期间被阻塞,无法处理其他请求;
  2. 不要编写过长的 Lua脚本。因为 Redis读写命令是单线程,过长的脚本,加载,解析,运行会比较耗时,导致其他命令的延迟延迟增加;
  3. 不要在 Lua脚本中进行复杂耗时的逻辑;因为 Redis读写命令是单线程的,长时间运行脚本可能导致其他命令的延迟增加;
  4. Lua脚本中,需要注意区分 redis.call() 和 redis.pcall() 命令;
  5. Lua 索引表从索引 1 开始,而不是 0;

八、总结

  • 原子性需要区分具体使用的载体,在关系型数据库(比如 MySQL))和 No SQL(比如Redis)中,原子性的概念是不相同的;
  • Redis的事务(MULTI/ESXEC)和关系型数据库(比如 MySQL)的事务(ACID)也是不相同的;
  • ACID的原子性指:命令要么全部执行,要么全部不执行;
  • Redis执行 Lua脚本的原子性指:Lua脚本会当作一个整体被执行且不被其他事务打断,但是 Lua 脚本里面的命令无法保证"要么全部执行,要么全部不执行";
  • Lua脚本使用 redis.pcall() 执行命令出错时会被catch,后续命令会正常执行;
  • Lua脚本使用 redis.call() 执行命令出错时会抛给客户端,后续命令会被阻断;
  • Lua 脚本一般比 MULTI/EXEC 更快、更简单;
  • Redis的部署方式决定了 Redis执行 Lua脚本是否能保证原子性,编写 Lua脚本时,特别需要注意在一个事务中是否要求操作同一个 key;

九、参考资料

Scripting with Lua:redis.io/docs/intera...

Atomicity with Lua:developer.redis.com/develop/jav...

Redis Transactions:redis.io/docs/intera...

The Programming Language Lua:www.lua.org/

十、温馨提示

  • 本文基于 Redis服务器版本为7.0.4,不同的版本,可能略有差异;

  • 本文所有示例都是基于单机环境运行;

  • Redis的命令不区分大小写,但是 Key 和 Value 区分大小写;

最后,把猿哥的座右铭送给你: 投资自己才是最大的财富。 由于水平有限,如果文章存在缺点和错误,欢迎批评指正。

相关推荐
Lee川1 小时前
从异步迷雾到优雅流程:JavaScript异步编程与内存管理的现代化之旅
javascript·面试
晴殇i3 小时前
揭秘JavaScript中那些“不冒泡”的DOM事件
前端·javascript·面试
绝无仅有3 小时前
Redis过期删除与内存淘汰策略详解
后端·面试·架构
绝无仅有4 小时前
Redis大Key问题排查与解决方案全解析
后端·面试·架构
AAA梅狸猫4 小时前
Looper.loop() 循环机制
面试
AAA梅狸猫5 小时前
Handler基本概念
面试
Wect5 小时前
浏览器缓存机制
前端·面试·浏览器
掘金安东尼6 小时前
Fun with TypeScript Generics:玩转 TS 泛型
前端·javascript·面试
掘金安东尼6 小时前
Next.js 企业级落地
前端·javascript·面试
掘金安东尼6 小时前
React 性能优化完全指南 2026
前端·javascript·面试