聊聊 Linux iowait

哈喽大家好，我是咸鱼。

我们在使用 top 命令来查看 Linux 系统整体 CPU 使用情况的时候，往往看的是下面这一列：

%Cpu(s):  0.0 us,  0.0 sy,  0.0 ni,100.0 id,  68.0 wa,  0.0 hi,  0.0 si,  0.0 st

其中，man 手册解释 wa 表示 CPU 在等待 I/O 操作（iowait）的时间百分比。

上面输出显示：CPU 有 68% 的时间消耗在等待 I/O 操作完成。按照也就是说有 68% 的 CPU 时间被浪费掉了？可是 Linux 会让 CPU 宝贵的性能白白浪费在耗时的 I/O 等待上吗？CPU 在 iowait 状态的时候能执行其他任务吗？

实际上当 CPU 处于 iowait 状态时，理论上也应该被视为处于 idle （空闲）状态，那 iowait 和 idle 之间有什么联系呢？

今天我们就来解开这些疑惑，来看看 iowait 到底是什么。

参考文章：

https://www.kawabangga.com/posts/5903

https://blog.popkx.com/linux系统top命令中的iowait究竟是什么意思/

https://www.linfo.org/process_state.html

https://blog.pregos.info/wp-content/uploads/2010/09/iowait.txt

进程和 CPU 状态

我们首先要搞清楚进程的状态和 CPU 状态。

进程可以分为下面几种状态：

1. R：可执行状态（runnable），表示进程正在被 CPU 执行或者处在 CPU 队列中等待分配 CPU 时间片。
2. S：可中断睡眠状态（interrupted sleep），表示进程处于睡眠状态，当特定条件或者信号到达时，就会被唤醒，状态也由 S 变成 R。
3. D：不可中断睡眠状态（uninterrupted sleep），跟状态 S 类似，只是进程在接收到信号时不会被唤醒。这类状态的进程一般在等待 I/O 结束。
4. Z：僵尸状态（zombie），表示进程已经终止（死透了），但父进程还没有发出 wait4() 系统调用去读取它的结束信息。（可以理解为进程死【终止】后 父进程要给它收尸【获取该进程的终止状态】）
5. T：暂停状态（stopped），表示进程已经暂停（还没死透），是可以恢复的（比如我们给进程发送 SIGSTOP 或者按 CTRL+Z，就可以将进程置为暂停状态，可以通过 bg/fg 命令，或者发送 SIGCONT 信号恢复。）

CPU 一共有四种状态，在任一时刻，CPU 的状态都是四种中的一种。这四种状态是：user，sys，idle，iowait 。比如 sar、top会用百分比表示 CPU 分别处于这四种状态的时间，这四种状态相加的结果是 100%。

上面提到的 4 种 CPU 状态，其实只有 2 种：

1. 工作/忙碌（busy）
2. 非工作/空闲（idle）

其中 busy 状态下又分成了：

1. user：表示 CPU 目前正在执行用户空间的代码
2. system：表示 CPU 目前正在执行内核空间的代码

idle 状态下又分成了：

1. idle：系统中没有 R 状态的进程了
2. iowait：系统中没有 R 状态的进程但有进程卡在 I/O 上

这里可以看到：iowait 其实可以归类到 idle 状态，本质上表示 CPU 是空闲的，只不过 iowait 表示任务中有等待 I/O 操作完成的时间。

那既然 iowait 也是一种 idle，CPU 在 iowait 状态的时候能执行其他任务吗？下面让我们来看一个例子。

举个栗子

本次例子在双核 CentOS 7 环境下实验。

我们使用 dd 命令模拟高密集 I/O 任务，并且使用 taskset 来为任务指定 CPU

# taskset 后的数字 1 并不是 CPU 的编号，而是一种掩码。
taskset 1 dd if=/dev/sda of=/dev/null bs=1MB

此时通过 top 命令查看 CPU 使用率，能够发现 CPU0 的 wa 项接近 100，这说明 CPU0 几乎所有的时间都花在等待 I/O 操作完成上。

那么，是不是此时 CPU 就没有精力处理其他任务了呢？我们再输入下面这条命令：

taskset 1 sh -c "while true; do true; done"

这条命令是在相同的 CPU 上执行一个死循环，用于模拟计算密集型任务。

可以看到：CPU0 的 wa 降低为 0 了，与此同时 us 和 sy 的时间占比接近 100% 。CPU 在 iowait 状态的时候能执行了其他任务。

但这就说明 dd 命令产生的进程没有阻塞在 I/O 上吗？并不是。

假设有一个进程需要花 70% 的时间等待 I/O 完成，把它放到一个空闲的单 CPU 的系统中，显示的 iowait 是 70%。

但是我在这个系统中增加一个非 I/O 的计算任务，iowait 就变成 0 了。而我们之前的那个进程依然需要花 70% 的时间等待 I/O。

一个是从 CPU 角度来看，一个是从进程的角度来看，iowait 是 CPU 的一个状态，它不是进程的状态。iowait 很低，不能代表进程没有阻塞在 I/O 上。

总结

最后总结一下：

1）不要搞混 CPU 状态和进程的状态。进程有 R、S、D、Z、T，5 种状态；CPU 有 4 种状态：工作（user、system 两种）和空闲（idle、iowait 两种）。

2）iowait 表示 CPU 其实是空闲的，不过 CPU 并不是严格意义上的 "空闲"，上面还有等待 I/O 操作的进程在执行。

3）系统 iowait 高：

1. 系统存在 I/O 性能问题：系统正在做的工作，大部分时间都是在等待 I/O 了。
2. 有进程因为等待 I/O 操作而阻塞，但这并不意味着系统不可以运行其他进程。

4）系统 iowait 低不能说明进程没有阻塞在 I/O 上。因为 CPU 在 iowait 状态的时候能执行其他进程。