目录
我在编写脚本的时候发现，三个文本编辑的命令（grep、sed、awk，被称为文本编辑三剑客，我习惯叫它三巨头）用的还挺多的，说实话我一开始学的时候也有些懵，主要是太多太杂，有那么个别些还有点难懂，最近恰好有时间，索性把三剑客相关的东西都整理出来，方便日后生疏了再回顾一下，顺便和大家一起交流学习。
在学三巨头之前，首先要知道正则表达式
正则表达式
什么是正则表达式？正则表达式又称规则表达式，通常用于判断语句中，是一种用于匹配字符串中字符组合的模式，一般由普通字符（字母、数字）与特殊字符（元字符）组成
我们之前讲过文件测试，是用 [ ]或者 test 实现的，还有学习 if 语句的时候，也是通过 [ ] 来进行条件判断。正则表达是也是用 [ ] 来做字符串匹配的，只不过，它所匹配的样式种类更多更齐全。
正则表达式直接使用的匹配规则是
\[ 变量 =\~ 正则式 \]
一个例子，我们定义一个变量 num 看看它与正则式是否匹配，输出结果是匹配
=~ 是匹配正则式的固定搭配，测试的时候不要忘了加
0-9\] 是检验变量里是否有0-9的数字 这里你可能会疑问，如果num = s2d2j93 这种数字字母穿插的，判断结果是什么呢？ 答案是，仍然输出匹配， 因为 \[0-9\] 只看你的变量中有没有数字，我们之前在编写shell脚本的时候也遇到，一个猜数字的脚本，如何避免输入除数字外的其他字符呢？ 现在可以得到解答了，只需要验证变量是否 =\~ \^\[0-9\]+$ 就可以了。 我们都知道，在grep命令中，\^是以什么什么开头，而$是以什么什么结尾，这样一组合，是不是就通俗易懂了，以数字开头以数字结尾，那不就是匹配纯数字的字符串吗？ 我们来正反都验证一下，结果不出我所料（doge  #### 元字符 通过上面这个例子，想必应该对正则有了个大致的了解，其实并不困难，主要就是选项很多很杂，常见的元字符有 **\[ \]**：定义一个字符类，匹配括号内的任意一个字符。 例如， \[abc\] 可以匹配 "a"、"b" 或 "c" **.**：匹配除换行符之外的任何单个字符 例如， a.c 可以匹配 "abc"、"a1c"、"a@c" 等 **\***：匹配前面的元素零次或多次 例如， ab\*c 可以匹配 "ac"、"abc"、"abbc"、"abbbc" 等 **+**：和 \* 一样，但只能匹配前面的元素一次或多次，不包括零次 所以 ab+c 只可以匹配 "abc"、"abbc"、"abbbc" 等，不能匹配 "ac" **?**：匹配前面的元素零次或一次 例如，ab?c 可以匹配 "ac" 或 "abc" **\^**：匹配字符串的开始。 例如， \^abc 匹配以 abc 开头的字符串。 **$**：匹配字符串的结束。 例如， abc$ 匹配以 abc 结尾的字符串。 **\[\^\]**：定义一个否定字符类，匹配不在括号内的任意一个字符。 例如， \[\^abc\] 匹配除了 "a"、"b" 和 "c" 之外的任意字符。 **\|**：或操作符，匹配两者中的任意一个。 例如，正则表达式 abc\|def 可以匹配 "abc" 或 "def"。 **()**：分组，用于将多个元素组合成一个单元，并捕获匹配的文本。 例如， (abc)+ 可以匹配 "abc"、"abcabc" 等。 \\{n\\}：匹配前面的元素恰好 n 次。 例如， a{3} 可以匹配 "aaa"。 \\{n,\\}：匹配前面的元素至少 n 次。 例如， a{3,} 可以匹配 "aaa"、"aaaa"、"aaaaa" 等。 \\{n,m\\}：匹配前面的元素至少 n 次，但不超过 m 次。 例如， a{3,5} 可以匹配 "aaa"、"aaaa"、"aaaaa"。 \\d：匹配任意一个数字字符（0-9）。 例如， \\d 可以匹配 "1"、"2"、"3" 等。 \\w：匹配任意一个字母、数字或下划线字符。 例如， \\w 可以匹配 "a"、"1"、"_" 等。 \\s：匹配任意一个空白字符（空格、制表符、换行符等）。 例如， \\s 可以匹配空格、制表符等。 \\D：匹配任意一个非数字字符。 例如， \\D 可以匹配 "a"、"@"、" " 等。 其实还有一部分没有列出，基本上用不到，可能用到的就这么多了，万一有遗漏我后续会补上。 正则表达式的规则就这么多，大多数情况都是搭配三巨头使用的，所以说接下来就可以开始学习三巨头了，搭配 grep、sed、awk 等命令使用的时候，含义是不变的，但是使用的符号会有点出入，所以接下来就通过大量的实例来进行讲解。 ### grep 首先肯定是从我们最为熟知，也是使用过的 grep 命令开始，grep命令最常用的参数可能就是 grep -v 还有 grep -i 了，这两个都是它的基本选项，我们接下来要了解它的输出控制选项，所以说要和正则表达式搭配使用呢，一个负责筛选过滤，一个负责控制输出的内容。常用的有 -E ：开启扩展的正则表达式 -c ：计算找到 '搜寻字符串' 的次数 -o ：只显示被模式匹配到的字符串 -w：匹配整个单词 -n ：输出行号 我创建了一个 123.txt 文件，用来测试各种案例，你们可以直接复制粘贴使用 #123.txt his is a test file for grep command. t contains various patterns and special characters. asic characters: abc, def, ghi 2. Digits: 123, 456, 789 3. Special characters: ., *, +, ?, ^, $, [, ], {, }, |, (, ) 4. Word boundaries: start, end, middle on-word characters: @, #, %, &, ! scaped characters: \., \*, \+, \?, \^, \$, \[, \], \{, \}, \|, \(, \) ultiple lines with the same pattern: pattern pattern pattern Case sensitivity: Case, case, CASE Whole word matching: word, sword, reword hole line matching: This is a whole line. ontext lines: This is line before the match. his is the matching line. This is line after the match. ile names: file1.txt, file2.txt, file3.txt Directory names: dir1, dir2, dir3 xclude patterns: exclude this line Include patterns: include this line ecursive patterns: ./dir1/file1.txt ./dir2/file2.txt ./dir3/file3.txt olor highlighting: highlight this ount matching lines: count this line Matching groups: group1, group2, group3 on-matching groups: nongroup1, nongroup2, nongroup3 ll lol lool loool loooool looooool looooooool loooooooooooooooooool #### 案例 先来个简单的吧，找出 hole 并打印行号 grep -n 'hole' 123.txt 打印出来有两个，此时我们加一个w，就可以只显示 hole 这个单词的了  那么相反，如果我查找不含 hole 的 只需要加上 -v 就可以了，也可以通过 \[\^\] 来筛选前面不含w的 grep -n '\[\^w\]hole' (还有别的方法可以自己测试，比如\[\^a-z\]hole，直接让前面不带字母等等) 接下来需要查找 test 或者 text 并打印行号（-n 之后的例子就不特别说明了） grep -n 'te\[sx\]t' 123.txt  这里用到了\[ \] ，匹配 s 或 x ，test 和 text 都被输出了出来 我们也可以通过 '.' 任意字符，来完成这个操作 grep -n 'te.t' 123.txt 有几个 . 就代表中间有几个任意字符  我们再来查找一下有数字的行 grep -n '\[0-9\]' 123.txt  下面我们来查找以数字开头的行 grep -n '\^\[0-9\]' 123.txt  以此类推，假如以字母开头，那就是 \^\[a-z
那么，现在有一个疑问，假如要查找不以字母开头的呢？要知道，除了字母数字，还有特使字符和空格等开头的行，而且字母也是有大小写的，此时该怎么办呢？
原理也差不多，[^] 是过滤不含某些内容的，那我们就不含字母
grep -n '^[^a-zA-Z]' 123.txt 这个正则表达式同时过滤了小写字母和大写字母，如果连数
字也要过滤掉，那么就在a-zA-Z的随便哪个位置加上0-9就可
以了，顺序无所谓的，但最好按照a-z A-Z 的顺序，不然不确
定会不会出现什么问题
附上过滤数字的运行截图
如果想查找以字母或数字结尾的，那么和以什么什么为开头的一样，在 [ ] 后面加上 $ 就可以了，如图，就不细说了↓
grep '[789]$' 123.txt 过滤出来是只有9是亮着的，因为 [ ] 匹配了 7 或者 8 或者 9 的字符串，那么，问一个简单的问题，假如我就非要，查找789这一个整体结尾的行，该怎么办呢？
额外提一句，grep -n '^$' 123.txt 代表输出空行的行
接下来，测试文件里的那么多 looool ，要派上用场了
回过头来看咱前面提到的元字符，是不是突然想到了什么
grep -n 'lo*l' 123.txt grep -n 'lo+l' 123.txt
它们的输出结果应该 * 有ll，而 + 没有，除此之外输出结果应该一致
验证一下
一个新的问题出现了，为什么 grep -n 'lo+l' 123.txt 没有任何结果输出？我仅仅是将 * 号改成了+号，按理来说不可能出现语法错误啊？
我们来排错一下， grep -v 'lo+l' 123.txt
整个文档都被输出出来了，说明文档里没有能与 'lo+l' 匹配的行，我们试着去文档里创捷新的一行，只有lo+l
保存并退出， 再来一次 grep -n 'lo+l' 123.txt
真相了家人们，grep过滤的时候，读取的是 "lo+l" 这一整个字符串，+ 并没有被当作是元字符，我们给它加上一个 \ 转义符看看
这下成功了，得到想要的结果了，再回过头来看，是不是和 lo*l 的输出只相差了一个 ll
现在，我只想查找，ll之间夹着 3-6 个 o 的行
grep -n 'lo\{3,6\}l' 123.txt
其他的需求也可以依葫芦画瓢，比如 至少 5个o 那就是 grep -n 'lo\{5,\}l' 123.txt , 转义符不要忘记
grep过滤的功能远不止在过滤文件内容，还可以搭配管道符号，再写入脚本，对脚本进行很大的优化
比如我们都知道，ifconfig ens33 是查看网卡的内容
那么，我们是不是可以通过一些条件约束，使之只显示我们需要的内容呢？比如说ip地址
很简单啊，过滤inet开头那一行，但是这样的输出结果，无法直接作为纯数字传递给脚本参数等进行处理，我们需要仅显示ip地址等
那么就需要过滤含有 [0-9].[0-9].[0-9].[0-9] 的行
ifconfig ens33 |grep -o "[0-9]\+\.[0-9]\+\.[0-9]\+\.[0-9]\+"
学好三巨头还是要靠熟记各种参数元字符的含义并巧妙应用，做到事半功倍的效果
另外还有sed 和 awk 我之后整理了差不多再进行讲解