目录
前言
-
正则表达式是一个用正则符号写出的公式,程序对这个公式进行语法分析,建立一个语法分析树,再根据这个分析树结合正则表达式的引擎生成执行程序(这个执行程序我们把它称作状态机,也叫状态自动机),用于字符匹配
-
使用不恰当的正则表达式可能会导致很严重的性能问题
-
比如:
-
这个正则表达式看起来没什么问题,它可以分为三个部分:
-
第一部分匹配 http 和 https 协议,第二部分匹配 www. 字符,第三部分匹配许多字符
-
其实这里会导致 CPU 使用率高的关键原因就是:Java 正则表达式使用的引擎实现是 NFA 自动机,这种正则表达式引擎在进行字符匹配时会发生回溯backtracking
-
而一旦发生回溯,那其消耗的时间就会变得很长,有可能是几分钟,也有可能是几个小时,时间长短取决于回溯的次数和复杂度
正则表达式引擎
-
正则表达式引擎就是一套核心算法,用于建立状态机
-
简单地说,实现正则表达式引擎的有两种方式:DFA 自动机(Deterministic Final Automata 确定型有穷自动机)和 NFA 自动机(Non deterministic Finite Automaton 不确定型有穷自动机)
-
简单来讲,NFA 对应的是正则表达式主导的匹配,而 DFA 对应的是文本主导的匹配
-
简单来讲,DFA 自动机的时间复杂度是线性的,更加稳定,但是功能有限;而 NFA 的时间复杂度比较不稳定,有时候很好,有时候不怎么好,好不好取决于你写的正则表达式;但是胜在 NFA 的功能更加强大,所以包括 Java、.NET、Perl、Python、Ruby、PHP 等语言都使用了 NFA 去实现其正则表达式
-
那 NFA 自动机到底是怎么进行匹配的呢?我们以下面的字符和表达式来举例说明:
-
要记住一个很重要的点,即:NFA 是以正则表达式为基准去匹配的
-
也就是说,NFA 自动机会读取正则表达式的一个一个字符,然后拿去和目标字符串匹配,匹配成功就换正则表达式的下一个字符,否则继续和目标字符串的下一个字符比较
- 首先,拿到正则表达式的第一个匹配符:d
- 于是拿去和字符串的字符进行比较,字符串的第一个字符是T,不匹配,换下一个
- 第二个是o,也不匹配,再换下一个
- 第三个是d,匹配了,那么就读取正则表达式的第二个字符:a
- 读取到正则表达式的第二个匹配符:a
- 拿着继续和字符串的第四个字符 a 比较,又匹配了
- 那么接着读取正则表达式的第三个字符:y
- 读取到正则表达式的第三个匹配符:y
- 拿着继续和字符串的第五个字符 y 比较,又匹配了
- 尝试读取正则表达式的下一个字符,发现没有了,那么匹配结束
-
上面这个匹配过程就是 NFA 自动机的匹配过程,但实际上的匹配过程会比这个复杂非常多,但其原理是不变的
NFA自动机的回溯
-
了解了 NFA 是如何进行字符串匹配的,接下来我们就可以讲讲这篇文章的重点了:回溯
-
为了更好地解释回溯,我们同样以下面的例子来讲解:
-
上面的这个例子的目的比较简单,匹配以 a 开头,以 c 结尾,中间有 1-3 个 b 字符的字符串
-
NFA 对其解析的过程是这样子的:
- 首先,读取正则表达式第一个匹配符 a 和 字符串第一个字符 a 比较,匹配了
- 于是读取正则表达式第二个字符
- 读取正则表达式第二个匹配符 b{1,3} 和字符串的第二个字符 b 比较,匹配了
- 但因为 b{1,3} 表示 1-3 个 b 字符串,以及 NFA 自动机的贪婪特性(也就是说要尽可能多地匹配),所以此时并不会再去读取下一个正则表达式的匹配符,而是依旧使用 b{1,3} 和字符串的第三个字符 b 比较,发现还是匹配
- 于是继续使用 b{1,3} 和字符串的第四个字符 c 比较,发现不匹配了
- 此时就会发生回溯
- 发生回溯是怎么操作呢?
- 发生回溯后,我们已经读取的字符串第四个字符 c 将被吐出去,指针回到第三个字符串的位置
- 之后,程序读取正则表达式的下一个操作符 c,读取当前指针的下一个字符 c 进行对比,发现匹配
- 于是读取下一个操作符,但这里已经结束了
-
下面我们回过头来看看前面的那个校验 URL 的正则表达式:
-
出现问题的 URL 是:
-
我们把这个正则表达式分为三个部分:
- 第一部分:校验协议;^([hH][tT]{2}[pP]://|[hH][tT]{2}[pP][sS]://)
- 第二部分:校验域名;(([A-Za-z0-9-~]+).)+
- 第三部分:校验参数;([A-Za-z0-9-~\\/])+$
-
我们可以发现正则表达式校验协议 http:// 这部分是没有问题的,但是在校验 www.fapiao.com 的时候,其使用了 xxxx. 这种方式去校验
-
那么匹配过程是这样的:
- 匹配到 www.
- 匹配到 fapiao.
- 匹配到 com/dzfp-web/pdf/download?request=6e7JGm38jf.....,你会发现因为贪婪匹配的原因,所以程序会一直读后面的字符串进行匹配,最后发现没有点号,于是就一个个字符回溯回去了
-
这是这个正则表达式存在的第一个问题
-
另外一个问题是在正则表达式的第三部分,我们发现出现问题的 URL 是有下划线(_)和百分号(%)的,但是对应第三部分的正则表达式里面却没有
-
这样就会导致前面匹配了一长串的字符之后,发现不匹配,最后回溯回去
-
这是这个正则表达式存在的第二个问题
解决方案
-
明白了回溯是导致问题的原因之后,其实就是减少这种回溯,你会发现如果我在第三部分加上下划线和百分号之后,程序就正常了
-
运行上面的程序,立刻就会打印出match!!
-
但这是不够的,如果以后还有其他 URL 包含了乱七八糟的字符呢,我们难不成还再修改一遍
-
肯定不现实
-
其实在正则表达式中有这么三种模式:贪婪模式、懒惰模式、独占模式
-
在关于数量的匹配中,有 + ? * {min,max} 四种两次,如果只是单独使用,那么它们就是贪婪模式
-
如果在他们之后多加一个 ? 符号,那么原先的贪婪模式就会变成懒惰模式,即尽可能少地匹配
-
但是懒惰模式还是会发生回溯现象
-
例如下面这个例子:
-
正则表达式的第一个操作符 a 与 字符串第一个字符 a 匹配,匹配成功
-
于是正则表达式的第二个操作符 b{1,3}? 和 字符串第二个字符 b 匹配,匹配成功
-
因为最小匹配原则,所以拿正则表达式第三个操作符 c 与字符串第三个字符 b 匹配,发现不匹配
-
于是回溯回去,拿正则表达式第二个操作符 b{1,3}? 和字符串第三个字符 b 匹配,匹配成功
-
于是再拿正则表达式第三个操作符 c 与字符串第四个字符 c 匹配,匹配成功;于是结束
-
如果在他们之后多加一个 + 符号,那么原先的贪婪模式就会变成独占模式,即尽可能多地匹配,但是不回溯
-
于是乎,如果要彻底解决问题,就要在保证功能的同时确保不发生回溯
-
将上面校验 URL 的正则表达式的第二部分后面加多了个 + 号,即变成这样:
-
这样之后,运行原有的程序就没有问题了