应用混部场景如何基于 cgroup v2 控制

cgroup v2 如何控制应用 cpu 抢占优先级

在 cgroup v2 中，资源控制策略进一步改进以提供更好的资源管理和资源优先级设置。要控制应用在 CPU 和内存上抢占计算资源的优先级，可以使用以下几个 cgroup v2 的属性：

在 cgroup v2 中，CPU 资源管理主要使用 cpu.max 和 cpu.weight 来实现：

cpu.max : 定义 cgroup 可以使用的 CPU 时间限制。它允许您设置 CPU 限制，通过设置时间和周期来控制 cgroup 的可用 CPU 资源。例如，您可以将 cpu.max 设置为 200ms 1000ms，这意味着该 cgroup 每 1000 毫秒（1 秒）可使用 200 毫秒的 CPU 时间。
bash 复制代码
```
# 为 cgroup 设置 CPU 时间限制
echo "200000 1000000" | sudo tee /sys/fs/cgroup/cpu/cgroup_name/cpu.max
```
cpu.weight : 提供了一种相对优先级的设置机制。cpu.weight 的值范围是 1 到 9999，数值越大则优先级越高。通过设置不同的权重值，可以控制不同 cgroup 之间的抢占优先级。
bash 复制代码
```
# 为 cgroup 设置 CPU 权重
echo "500" | sudo tee /sys/fs/cgroup/cpu/cgroup_name/cpu.weight  # 中等优先级
echo "1000" | sudo tee /sys/fs/cgroup/cpu/cgroup_name/cpu.weight  # 较高优先级
```

在 cgroup v2 中，您可以使用以下属性来管理内存资源并控制优先级：

memory.max: 限制 cgroup 使用的最大内存量，如果超出限制，则可能会杀死该 cgroup 内的进程。
bash 复制代码
```
# 设置 cgroup 最大内存限制
echo "1G" | sudo tee /sys/fs/cgroup/memory/cgroup_name/memory.max
```
memory.high: 提供一个较高的内存使用阈值。当 cgroup 使用的内存超过该值时，内核会考虑限制该 cgroup 的行为，可以通过此属性来策略性地安排内存使用。
bash 复制代码
```
# 设置内存高阈值
echo "900M" | sudo tee /sys/fs/cgroup/memory/cgroup_name/memory.high
```
memory.low: 为该 cgroup 设置一个建议的最低内存使用量。如果系统资源紧张，内核会尽量保证该 cgroup 不会低于这个阈值。
bash 复制代码
```
# 设置内存低阈值
echo "800M" | sudo tee /sys/fs/cgroup/memory/cgroup_name/memory.low
```

虽然提问中主要关注 CPU 和内存，通过 I/O 控制也可以间接影响应用的优先级:

io.max: 设置 I/O 设备的最大使用限制，可以限制应用程序对 I/O 资源的使用优先级。
bash 复制代码
```
# 设置 I/O 限制
echo "blkio:device_name 1000" | sudo tee /sys/fs/cgroup/io/cgroup_name/io.max
```

通过合理使用 cgroup v2 中的 cpu.max, cpu.weight, memory.max, memory.high, 和 memory.low ，您可以在混合部署场景中优先考虑某些应用程序的资源使用，同时有效控制其他应用的资源抢占：

cpu.weight 和 nice 是 Linux 系统中用于管理进程 CPU 调度和资源分配的重要概念，但它们存在一些关键区别和关联。

cpu.weight 是 cgroup v2 中用于控制资源分配的一个属性。它允许您为不同的控制组（cgroups）分配相对的 CPU 调度权重。

范围：cpu.weight 的值范围从 1 到 9999。值越高，优先级越高。一个 cgroup 如果设置 cpu.weight 为 1000，而另一个 cgroup 设置为 5000，那么后者将获得更多的 CPU 时间。
用途：在多任务场景中，您可以使用 cpu.weight 来调整不同失控 CGroup 之间的调度优先级，从而实现更细粒度的资源管理。

nice 是 Linux 中用于调整进程调度优先级的一个属性。它通过设置调度级别影响进程的 CPU 时间分配。

范围：nice 值范围从 -20（最高优先级）到 19（最低优先级）。默认值是 0，使用nice 命令可以更改进程的优先级。例如，nice -n 10 your_command 会将该命令的 nice 值设置为 10。
用途：nice 影响的是进程的内核调度器如何分配 CPU 时间。优先级高的进程会相对频繁地获得对 CPU 的访问。

作用层面：
- cpu.weight 主要用于 cgroup 层面，影响整个控制组的 CPU 调度，能用于整合管理多个进程。
- nice 则是在进程层面设置的，直接影响单个进程的调度优先级。
整合管理：
- 当您针对 cgroup 中的进程设置一个 cpu.weight 值时，这会与进程的 nice 值一起影响该 cgroup 中进程的 CPU 时间分配。
- 实际上，cpu.weight 和 nice 两者共同作用：在相同的 cgroup 下，nice 值较低的进程会扮演更高的角色，但 cgroup 的 cpu.weight 也会整体影响该组进程的调度优先级。

Linux 调度器在决定如何分配 CPU 时间时，会考虑到所有运行中的进程的 nice 值和 cgroups 的 cpu.weight 值。因此，不同的 cpu.weight 设置和 nice 值组合将直接影响资源的分配和调度：

通过cpu.weight 和 nice，用户可以灵活地管理和优化进程的 CPU 使用优先级。这使得在复杂系统中优化资源分配成为可能，尤其是在使用 cgroups 管理多个负载时。