Shell 脚本编程基础完整学习笔记

Shell脚本编程从入门到精通

一、Shell概述

1、Shell概述

Shell是一个命令行解释器，它为用户提供了一个向Linux内核发送请求以便运行程序的界面系统级程序，用户可以用Shell来启动(、)挂起(、)停止甚至是编写一些程序。

Shell还是一个功能相当强大的编程语言，易编写(、)易调试(、)灵活性强。

2、Linux提供的Shell解析器

复制代码

/bin/sh
/bin/bash
/usr/bin/sh
/usr/bin/bash

3、bash和sh的关系

sh是bash的软链接，Centos7默认的shell是bash。

复制代码

[root@hadoop101 ~]# grep bash /etc/passwd
root:x:0:0:root:/root:/bin/bash

4、Centos默认的shell

复制代码

echo $SHELL
/bin/bash

二、shell脚本入门

1、脚本格式

脚本以#!/bin/bash开头（指定解析器）。

2、第一个Shell脚本：helloworld.sh

需求：创建一个Shell脚本，输出hello world。

复制代码

#!/bin/bash
echo "hello world"

3、脚本的常用执行方式

第一种：采用bash或sh+脚本的相对路径或绝对路径

不用赋予脚本+x权限。

sh+相对路径：

复制代码

sh ./helloworld.sh

sh+绝对路径：

复制代码

sh /home/atguigu/shells/helloworld.sh

bash+相对路径：

复制代码

bash ./helloworld.sh

bash+绝对路径：

复制代码

bash /home/atguigu/shells/helloworld.sh

第二种：采用输入脚本的绝对路径或相对路径执行脚本

必须具有可执行权限+x。

首先要赋予helloworld.sh脚本的+x权限：

复制代码

chmod +x helloworld.sh

执行脚本：

相对路径：

复制代码

./helloworld.sh

绝对路径：

复制代码

/home/atguigu/shells/helloworld.sh

注意：第一种执行方法，本质是bash解析器帮你执行脚本，所以脚本本身不需要执行权限。第二种执行方法，本质是脚本需要自己执行，所以需要执行权限。

第三种：在脚本路径前加上"."或者source

创建一个脚本：

复制代码

#!/bin/bash
a=5
echo $a

分别用sh/bash(*、)./(*和).的方式来执行：

复制代码

sh test.sh
echo $a

无输出。

复制代码

chmod +x test.sh
./test.sh
echo $a

无输出。

复制代码

. test.sh
echo $a

输出：

复制代码

5

source test.sh
echo $a

输出：

复制代码

原因：

前两种方式都是在当前shell中打开一个子shell来执行脚本内容，当脚本内容结束，则子shell关闭，回到父shell中。

第三种也叫source执行方式，是不开启子shell的方式，可以直接在当前shell中执行脚本里的命令。

所以子shell里定义的变量，父shell是不可见的。

三、变量

3.1 系统预定义变量

常用系统变量

复制代码

$HOME
$PWD
$SHELL
$USER

案例实操

复制代码

echo $HOME
/root

3.2 自定义变量

基本语法

定义变量：变量名=变量值，注意：=号前后不能有空格。
撤销变量：unset 变量名。
声明静态变量：readonly变量，注意：不能unset。

变量定义规则

变量名称可以由字母(*、)数字(*和)下划线组成，但是不能以数字开头，环境变量名建议大写。
等号两侧不能有空格。
在bash中，变量默认类型都是字符串类型，无法直接进行数值运算。
变量的值如果有空格，需要使用双引号或单引号括起来。

案例实操

定义变量A：

A=5
echo $A
5
给变量A重新赋值：

A=8
echo $A
8
撤销变量A：

unset A
echo $A

无输出。

声明静态的变量B=2，不能unset：

readonly B=2
echo $B
2
unset B

提示：

复制代码

-bash: unset: B: cannot unset: readonly variable

在bash中，变量默认类型都是字符串类型，无法直接进行数值运算：

C=1+2
echo $C
1+2
变量的值如果有空格，需要使用双引号或单引号括起来：

D='I love you'
echo $D
I love you
可把变量提升为全局环境变量，可供其他Shell程序使用：

export 变量名

3.3 特殊变量

3.3.1 $n

基本语法

$n：n为数字。

$0代表该脚本名称。
$1-$ 9代表第一到第九个参数。
十以上的参数需要用大括号包含，如${10}。

案例实操

复制代码

#!/bin/bash
echo '=========$n========='
echo script name: $0
echo 1st parameter: $1
echo 2nd parameter: $2

chmod +x parameter.sh
./parameter.sh 11 22

输出：

复制代码

=========$n=========
script name: ./parameter.sh
1st parameter: 11
2nd parameter: 22

3.3.2 $#

基本语法

$#：获取所有输入参数个数，常用于循环，判断参数个数是否正确，加强脚本的健壮性。

案例实操

复制代码

#!/bin/bash
echo '=========$#========='
echo parameter numbers: $#

./parameter.sh 11 22

输出：

复制代码

=========$#=========
parameter numbers: 2

3.3.3 $(、)$ @

基本语法

$*：这个变量代表命令行中所有的参数，$*把所有的参数看成一个整体。
$@：这个变量也代表命令行中所有的参数，不过$@把每个参数区分对待。

案例实操

复制代码

#!/bin/bash
echo '=========$*========='
echo $*
echo '=========$@========='
echo $@

./parameter.sh 11 22 33 44 55 66 7

输出：

复制代码

=========$*=========
11 22 33 44 55 66 7
=========$@=========
11 22 33 44 55 66 7

3.3.4 $?

基本语法

$?：最后一次执行的命令的返回状态。

如果这个变量的值为0，证明上一个命令正确执行。

如果这个变量的值为非0，则证明上一个命令执行不正确了。

案例实操

复制代码

./helloworld.sh
hello world
echo $?
0

四、运算符

基本语法

$((运算式)) 或 $[运算式]。
expr + , - , \*, /, %：加(、)减( 、)乘(、)除(、)取余。

注意：expr运算符间要有空格。

案例实操

计算3+2的值：

expr 2 + 3
5
计算3-2的值：

expr 3 - 2
1
计算（2+3）×4的值：

expr expr 2 + 3 * 4
20
使用$ $运算式$ 方式：

S= $[(2+3)*4] echo$ S
20

五、条件判断

基本语法

test condition。
[ condition ]：注意condition前后要有空格。

注意：条件非空即为true，[ atguigu ]返回true，[]返回false。

常用判断条件

1. 两个整数之间比较

复制代码

=    字符串比较
-lt  小于
-le  小于等于
-eq  等于
-gt  大于
-ge  大于等于
-ne  不等于

2. 按照文件权限进行判断

复制代码

-r  有读的权限
-w  有写的权限
-x  有执行的权限

3. 按照文件类型进行判断

复制代码

-f  文件存在并且是一个常规的文件
-e  文件存在
-d  文件存在并是一个目录

案例实操

23是否大于等于22：

[ 23 -ge 22 ]
echo $?
0
helloworld.sh是否具有写权限：

[ -w helloworld.sh ]
echo $?
0
/home/atguigu/cls.txt目录中的文件是否存在：

[ -e /home/atguigu/cls.txt ]
echo $?
1
多条件判断：

&& 表示前一条命令执行成功时，才执行后一条命令。

|| 表示上一条命令执行失败后，才执行下一条命令。

复制代码

[ condition ] && echo OK || echo notok
OK

六、流程控制

6.1 if判断

基本语法

单分支：

复制代码

if [ 条件判断式 ];then
  程序
fi

或者：

复制代码

if [ 条件判断式 ]
then
  程序
fi

多分支：

复制代码

if [ 条件判断式 ]
then
  程序
elif [ 条件判断式 ]
then
  程序
else
  程序
fi

注意事项：

$条件判断式$ ，中括号(*和)条件判断式之间必须有空格。
if后要有空格。

案例实操

输入一个数字，如果是1，则输出banzhang zhen shuai，如果是2，则输出cls zhen mei，如果是其它，什么也不输出。

复制代码

#!/bin/bash
if [ $1 -eq 1 ]
then
        echo "banzhang zhen shuai"
elif [ $1 -eq 2 ]
then
        echo "cls zhen mei"
fi

chmod +x if.sh
./if.sh 1
banzhang zhen shuai

6.2 case语句

基本语法

复制代码

case $变量名 in
  "值1")
    如果变量的值等于值1，则执行程序1
    ;;
  "值2")
    如果变量的值等于值2，则执行程序2
    ;;
  ...省略其他分支...
  *)
    如果变量的值都不是以上的值，则执行此程序
    ;;
esac

注意事项：

case行尾必须为单词"in"。
每一个模式匹配必须以右括号"）"结束。
双分号";;"表示命令序列结束。
最后的"*）"表示默认模式。

案例实操

输入一个数字，如果是1，则输出banzhang，如果是2，则输出cls，如果是其它，输出renyao。

复制代码

#!/bin/bash
case $1 in
1)
        echo "banzhang"
;;
2)
        echo "cls"
;;
*)
        echo "renyao"
;;
esac

chmod +x case.sh
./case.sh 1
banzhang

6.3 for循环

基本语法1

复制代码

for (( 初始值;循环控制条件;变量变化 ))
do
  程序
done

案例实操

从1加到100：

复制代码

#!/bin/bash
sum=0
for((i=0;i<=100;i++))
do
        sum=$[$sum+$i]
done
echo $sum

chmod +x for1.sh
./for1.sh
5050

基本语法2

复制代码

for 变量 in 值1 值2 值3...
do
  程序
done

案例实操

打印所有输入参数：

复制代码

#!/bin/bash
#打印所有参数
for i in $*
do
        echo "ban zhang love $i "
done

chmod +x for2.sh
./for2.sh mm cls
ban zhang love mm
ban zhang love cls

比较 $\(\和)$ @区别

$\*(\*和)$ @都表示传递给函数或脚本的所有参数。

不被双引号包含时，都以 $1$ 2 ...$n的形式输出所有参数。

复制代码

#!/bin/bash
echo '=============$*============='
for i in $*
do
        echo "ban zhang love $i"
done
echo '=============$@============='
for i in $@
do
echo "ban zhang love $i"
done

chmod +x for3.sh
./for3.sh mm cls
=============$*=============
ban zhang love mm
ban zhang love cls
=============$@=============
ban zhang love mm
ban zhang love cls

当它们被双引号包含时：

$\*会将所有的参数作为一个整体，以"$ 1 $2 ...$ n"的形式输出所有参数。
$@会将各个参数分开，以"$ 1" " $2"..."$ n"的形式输出所有参数。

#!/bin/bash
echo '============= $*=============' for i in "$ *"
do
echo "ban zhang love $i" done echo '=============$ @============='
for i in " $@" do echo "ban zhang love$ i"
done

chmod +x for4.sh
./for4.sh mm cls
============= $*============= ban zhang love mm cls =============$ @=============
ban zhang love mm
ban zhang love cls

6.4 while循环

基本语法

复制代码

while [ 条件判断式 ]
do
  程序
done

案例实操

从1加到100：

复制代码

#!/bin/bash
sum=0
i=1
while [ $i -le 100 ]
do
        sum=$[$sum+$i]
        i=$[$i+1]
done
echo $sum

chmod +x while.sh
./while.sh
5050

七、read读取控制台输入

基本语法

复制代码

read(选项)(参数)

选项：

复制代码

-p  指定读取值时的提示符
-t  指定读取值时等待的时间，单位秒

参数：

复制代码

变量：指定读取值的变量名

案例实操

提示7秒内，读取控制台输入的名称：

复制代码

#!/bin/bash
read -t 7 -p "enter your name in 7 seconds: " NAME
echo $NAME

chmod +x read.sh
./read.sh
enter your name in 7 seconds: xiaoze
xiaoze

八、函数

8.1 系统函数

8.1.1 basename

基本语法

复制代码

basename [string / pathname] [suffix]

功能：basename命令会删掉所有的前缀包括最后一个'/'字符，然后将字符串显示出来。

选项：suffix为后缀，如果suffix被指定了，basename会将pathname或string中的suffix去掉。

案例实操

截取该/home/atguigu/banzhang.txt路径的文件名称：

复制代码

basename /home/atguigu/banzhang.txt
banzhang.txt
basename /home/atguigu/banzhang.txt .txt
banzhang

8.1.2 dirname

基本语法

复制代码

dirname 文件绝对路径

功能：从给定的包含绝对路径的文件名中去除文件名，然后返回剩下的路径。

案例实操

获取banzhang.txt文件的路径：

复制代码

dirname /home/atguigu/banzhang.txt
/home/atguigu

8.2 自定义函数

基本语法

复制代码

[ function ] funname[()]
{
  Action;
  [return int;]
}
funname

经验技巧

必须在调用函数地方之前，先声明函数，shell脚本是逐行运行。不会像其它语言一样先编译。
函数返回值，只能通过$?系统变量获得，可以显示加：return返回，如果不加，将以最后一条命令运行结果，作为返回值。return后跟数值n，范围0-255。

案例实操

计算两个输入参数的(*和)：

复制代码

#!/bin/bash
function sum()
{
    s=0
    s=$[ $1 + $2 ]
    echo "$s"
}
read -p "Please input the number1: " n1;
read -p "Please input the number2: " n2;
sum $n1 $n2;

chmod +x fun.sh
./fun.sh
Please input the number1: 2
Please input the number2: 5
7

九、正则表达式入门

正则表达式使用单个字符串来描述(*、)匹配一系列符合某个语法规则的字符串。

在很多文本编辑器里，正则表达式通常被用来检索(*、)替换那些符合某个模式的文本。

在Linux中，grep，sed，awk等文本处理工具都支持通过正则表达式进行模式匹配。

9.1 常规匹配

一串不包含特殊字符的正则表达式匹配它自己。

复制代码

cat /etc/passwd | grep xiaolaoban

就会匹配所有包含xiaolaoban的行。

9.2 常用特殊字符

1、特殊字符^

^ 匹配一行的开头。

复制代码

cat /etc/passwd | grep ^a

会匹配出所有以a开头的行。

2、特殊字符$

$ 匹配一行的结束。

复制代码

cat /etc/passwd | grep t$

会匹配出所有以t结尾的行。

3、特殊字符.

. 匹配一个任意的字符。

复制代码

cat /etc/passwd | grep r..t

会匹配包含r开头t结尾的所有行。

4、特殊字符

* 不单独使用，他(*和)上一个字符连用，表示匹配上一个字符0次或多次。

复制代码

cat /etc/passwd | grep ro*t

会匹配rt, rot, root, rooot, rooooot等所有行。

5、字符区间（中括号）：

[ ] 表示匹配某个范围内的一个字符。

例如：

复制代码

[6,8]      匹配6或者8
[0-9]      匹配一个0-9的数字
[0-9]*     匹配任意长度的数字字符串
[a-z]      匹配一个a-z之间的字符
[a-z]*     匹配任意长度的字母字符串
[a-c, e-f] 匹配a-c或者e-f之间的任意字符

cat /etc/passwd | grep r[a,b,c]*t

会匹配rt,rat,rbt,rabct,rabbccaacbt等等所有行。

6、特殊字符\

\ 表示转义，并不会单独使用。

由于所有特殊字符都有其特定匹配模式，当我们想匹配某一特殊字符本身时，就会碰到困难。此时我们就要将转义字符\(*和)特殊字符$一起使用，表示纯字符本身。

复制代码

cat /etc/passwd | grep 'a\$b'

就会匹配所有包含a$b的行，注意需要使用单引号将表达式引起来。

十、文本处理工具

10.1 cut

cut的工作就是"剪"，具体的说就是在文件中负责剪切数据用的。

cut命令从文件的每一行剪切字节(*、)字符(和)字段并将这些字节(、)字符(*和)字段输出。

基本语法

复制代码

cut [选项参数]  filename

说明：默认分隔符是制表符。

选项参数：

复制代码

-f  列号，提取第几列
-d  分隔符，按照指定分隔符分割列，默认是制表符"\t"
-c  按字符进行切割，后加n表示取第几列，比如 -c 1

案例实操

数据准备：

touch cut.txt
vim cut.txt

输入以下内容：

复制代码

zhang san
li si
wang wu
shu jia
lan zhi
liu xi

切割cut.txt第一列：

cut -d " " -f 1 cut.txt
切割cut.txt第二(*、)三列：

cut -d " " -f 2,3 cut.txt
在cut.txt文件中切割出shu：

cat cut.txt | grep shu | cut -d " " -f 1
选取系统PATH变量值，第2个"："开始后的所有路径：

echo $PATH | cut -d: -f 3-
切割ifconfig后打印的IP地址：

ifconfig ens33 | grep netmask | cut -d " " -f 10

10.2 awk

一个强大的文本分析工具，把文件逐行的读入，以空格为默认分隔符将每行切片，切开的部分再进行分析处理。

基本语法

复制代码

awk [选项参数] '/pattern1/{action1} /pattern2/{action2}...' filename

说明：

pattern：表示awk在数据中查找的内容，就是匹配模式。
action：在找到匹配内容时所执行的一系列命令。

选项参数：

复制代码

-F  指定输入文件分隔符
-v  赋值一个用户定义变量

案例实操

数据准备：

cp /etc/passwd ./
搜索passwd文件以root关键字开头的所有行，并输出该行的第7列：

awk -F : '/^root/{print $7}' passwd
搜索passwd文件以root关键字开头的所有行，并输出该行的第1列(*和)第7列，中间以"，"号分割：

awk -F : '/^root/{print $1","$ 7}' passwd

注意：只匹配了pattern的行才会执行action。

只显示/etc/passwd的第一列(*和)第七列，且在所有行前面添加列名user，shell。

awk -F : 'BEGIN{print "user, shell"} {print $1","$ 7} END{print "lanzhishujia,/bin/bigdata"}' passwd

注意：BEGIN 在所有数据读取行之前执行；END 在所有数据执行之后执行。

将passwd文件中的用户id增加数值1并输出：

awk -v i=1 -F : '{print $3+i}' passwd

awk的内置变量

复制代码

FILENAME  文件名
NR        已读的记录数，行号
NF        浏览记录的域的个数，切割后列的个数

案例实操

统计passwd文件名，每行的行号，每行的列数：

awk -F : '{print "filename:" FILENAME ", linenum:" NR ",col:"NF}' passwd
切割ifconfig命令输出结果中的空行所在的行号：

ifconfig | awk '/^$/{print NR}'
切割IP：

ifconfig ens33 | awk '/netmask/ {print $2}'

十一、综合案例

发送消息

复制代码

#!/bin/bash
检查输入参数数量是否少于2
if [ "$#" -lt 2 ]; then
echo "用法: $0 <username> <message>"
exit 1
fi
获取用户名(*和)消息
USERNAME=$1
shift命令在Shell脚本中用于移动位置参数。使用shift后，
原来的$2变为$1，原来的$3变为$2，依此类推，原来的$1被丢弃。
shift
获取剩余的所有参数作为消息内容
MESSAGE="$*"
检查消息是否为空
if [ -z "$MESSAGE" ]; then
echo "错误: 消息不能为空"
exit 1
fi
检查用户是否存在
/dev/null：特殊设备文件，所有写入到它的内容都会被丢弃。通常用于丢弃不需要的输出。
if ! id "$USERNAME" &>/dev/null; then
echo "错误: 用户 $USERNAME 不存在"
exit 1
fi
检查用户是否已登录
if ! who | grep -q "^$USERNAME"; then
echo "错误: 用户 $USERNAME 当前未登录"
exit 1
fi
检查用户是否允许接收消息
if [ "$(mesg | grep -o 'is n')" -gt 0 ]; then
echo "错误: 用户 $USERNAME 不允许接收消息"
exit 1
fi
获取用户的TTY
TTY表示一个交互式终端接口
TTY=$(who | grep "^$USERNAME" | awk '{print $2}')
发送消息
使用 write 命令发送消息
echo "$MESSAGE" | write "$USERNAME" "$TTY"
确认消息已发送
if [ $? -eq 0 ]; then
echo "消息已成功发送给用户 $USERNAME"
else
echo "消息发送失败"
fi

执行：

复制代码

chmod +x send_message.sh
./send_message.sh xiaolaoban "Hello, Alice!"

归档文件

实际生产应用中，往往需要对重要数据进行归档备份。

需求：实现一个每天对指定目录归档备份的脚本，输入一个目录名称（末尾不带/），将目录下所有文件按天归档保存。并将归档日期附加在文件名上，放在/root/archive下。

这里用到了归档命令：tar。后面可以加上-c选项表示归档，-z表示同时进行压缩，得到的文件后缀名为.tar.gz。

复制代码

#!/bin/bash
检查是否提供了目录参数
if [ $# -ne 1 ]; then
echo "用法: $0 <目录名>"
exit 1
fi
获取目录名并去除末尾的斜杠
DIR=$(echo $1)
检查指定目录是否存在
if [ ! -d "$DIR" ]; then
echo "错误: 目录 $DIR 不存在"
exit 1
fi
创建归档目录
ARCHIVE_DIR="/root/archive"
mkdir -p "$ARCHIVE_DIR"
获取当前日期
DATE=$(date +%Y-%m-%d)
生成归档文件名
ARCHIVE_FILE="$ARCHIVE_DIR/$(basename "$DIR")backup$DATE.tar.gz"
执行归档操作
tar -czf "$ARCHIVE_FILE" -C "$(dirname "$DIR")" "$(basename "$DIR")"
检查归档是否成功
if [ $? -eq 0 ]; then
echo "目录 $DIR 已成功归档到 $ARCHIVE_FILE"
else
echo "归档失败"
exit 1
fi

执行：

复制代码

chmod +x /root/daily_backup.sh

定时任务：

复制代码

crontab -e

添加：

复制代码

0 2 * * * /root/daily_backup.sh /root/bigdata

Shell 脚本编程基础完整学习笔记

Shell脚本编程从入门到精通

一、Shell概述

1、Shell概述

2、Linux提供的Shell解析器

3、bash和sh的关系

4、Centos默认的shell

二、shell脚本入门

1、脚本格式

2、第一个Shell脚本：helloworld.sh

3、脚本的常用执行方式

第一种：采用bash或sh+脚本的相对路径或绝对路径

第二种：采用输入脚本的绝对路径或相对路径执行脚本

第三种：在脚本路径前加上"."或者source

三、变量

3.1 系统预定义变量

常用系统变量

案例实操

3.2 自定义变量

基本语法

变量定义规则

案例实操

3.3 特殊变量

3.3.1 $n

基本语法

案例实操

3.3.2 $#

基本语法

案例实操

3.3.3 *(*、)@

基本语法

案例实操

3.3.4 $?

基本语法

案例实操

四、运算符

基本语法

案例实操

五、条件判断

基本语法

常用判断条件

1. 两个整数之间比较

2. 按照文件权限进行判断

3. 按照文件类型进行判断

案例实操

六、流程控制

6.1 if判断

基本语法

案例实操

6.2 case语句

基本语法

案例实操

6.3 for循环

基本语法1

案例实操

基本语法2

案例实操

比较\*(\*和)@区别

6.4 while循环

基本语法

案例实操

七、read读取控制台输入

基本语法

案例实操

八、函数

8.1 系统函数

8.1.1 basename

基本语法

案例实操

8.1.2 dirname

基本语法

案例实操

8.2 自定义函数

基本语法

经验技巧

案例实操

九、正则表达式入门

9.1 常规匹配

9.2 常用特殊字符

1、特殊字符^

3.3.3 $(、)$ @

比较 $\(\和)$ @区别

4、特殊字符