K8s基于节点软亲和的高 CPU Pod 扩容与优先调度方案

场景与目标

  • 集群节点:master(4 核)、node1(16 核)、node2(16 核)。
  • 目标 :将一个高 CPU 消耗的工作负载横向扩展到 4 个实例 ,并通过**节点亲和性(软亲和)**确保 Pod 优先调度到 node1、node2(CPU 更充足)。
  • 已完成:node1/node2 已打标签 cpu-tier=high。

参考:Kubernetes 官方节点亲和文档(支持首选型 preferred、权重 1--100)、Kuboard 亲和性教程(节点亲和的概念与写法)、以及中文教程对软/硬亲和的区分说明。


配置思路(为什么选"软亲和")

  • 软亲和(preferredDuringSchedulingIgnoredDuringExecution) :调度器会为满足规则的节点打分(可设定权重 1--100),尽量将 Pod 放到匹配节点(cpu-tier=high);若资源不足,仍可回退到其他节点,避免扩容/滚更卡在 Pending。
  • 硬亲和(required...) 相比,软亲和更利于弹性与可用性,减少因"条件太硬"而导致的调度失败。

节点标签(确认)

当前节点标签示例(你已完成):

复制代码
# 已有:为 16 核节点打上高 CPU 标签
kubectl label node node1 cpu-tier=high --overwrite=true
kubectl label node node2 cpu-tier=high --overwrite=true

节点亲和是基于节点标签实现的,preferred规则通过标签匹配给节点"加分"。


部署清单中的关键修改(仅节点软亲和)

Deployment 的 spec.template.spec 下添加 nodeAffinity(preferred),示例片段如下(可直接粘贴):

复制代码
affinity:
  nodeAffinity:
    preferredDuringSchedulingIgnoredDuringExecution:
      - weight: 100
        preference:
          matchExpressions:
            - key: cpu-tier
              operator: In
              values:
                - high

weight: 100 表示强烈偏好匹配该表达式的节点;调度器按规则累积分值进行优先选择。


一条命令合并补丁(不改其他字段)

将现有工作负载(以 prod/device 为例)打上节点软亲和 ,并把副本数扩到 4

复制代码
kubectl -n prod patch deploy device --type='merge' -p '
{
  "spec": {
    "replicas": 4,
    "template": {
      "spec": {
        "affinity": {
          "nodeAffinity": {
            "preferredDuringSchedulingIgnoredDuringExecution": [
              {
                "weight": 100,
                "preference": {
                  "matchExpressions": [
                    { "key": "cpu-tier", "operator": "In", "values": ["high"] }
                  ]
                }
              }
            ]
          }
        }
      }
    }
  }
}'

"首选型(preferred)"亲和规则在满足条件的节点上加分,确保优先调度到 node1/node2;当没有可用资源时,调度器仍会将 Pod 放到其它节点,以保障发布成功。


验证与观测

  1. 查看分布与所在节点

    kubectl -n prod get pod -l k8s.kuboard.cn/name=device -o wide

  2. 查看调度事件与亲和匹配

    kubectl -n prod describe pod | sed -n '1,120p'

观察 Node:、Events 中的调度决策与亲和性评估信息。

官方文档:节点亲和任务指南、概念详解。


推荐的配套优化(可选)

  • 声明资源请求/限制:为高 CPU 负载容器设置 resources.requests.cpu、resources.limits.cpu,帮助调度器更准确评估可用余量,从而更倾向于选择 16 核节点。
  • 控制平面隔离:通常 master/control-plane 节点带 NoSchedule 污点,业务 Pod 不会被调度到该节点;如曾清除,可按需恢复污点以保持隔离(此项与"软亲和"互补)。
  • (若想进一步均衡)拓扑分布约束:在软亲和基础上,你也可以为副本增加 topologySpreadConstraints,让 4 个副本在 node1/node2 之间尽量均匀(如目标 2+2),但本次你要求"仅节点软亲和",可暂不启用。

参考资料

Kubernetes 官方文档:Assign Pods to Nodes using Node Affinity(含 preferred/required 与权重说明)。
Kuboard 教程:亲和性与反亲和性(节点亲和的概念与示例)。
中文教程:亲和力软/硬的对比与说明。
CSDN:Kubernetes 进阶之容器组(Pod)(包含资源 requests/limits 的清单说明,可用于配合调度)。

相关推荐
java_cj2 天前
从kubectl学Visitor模式:如何优雅处理多态数据结构的遍历
云原生·golang·k8s·访问者模式
H Journey3 天前
汇编基础知识:地址总线、数据总线、内存地址空间、物理内存核心知识梳理
内存·cpu·总线
java_cj3 天前
从kubectl源码学Cobra:打造专业级Go命令行工具的完整实践
运维·开发语言·后端·云原生·golang·kubernetes·k8s
逻极4 天前
Kubernetes 从入门到精通:云原生容器编排
kubernetes·k8s·服务发现·容器编排
阿洛学长5 天前
Kubernetes超详细教程,从零开始学习k8s,从入门到实战
k8s·ks
武子康7 天前
调查研究-167 Docker Compose 详解:从单容器到多服务编排的工程化入口
运维·docker·云原生·容器·kubernetes·k8s·docker-compose
努力成为AK大王7 天前
计算机底层核心原理:CPU、总线、缓存与内存深度解析
缓存·内存·cpu
老王熬夜敲代码8 天前
CPU缓存的访问机制
操作系统·cpu
OpsEye9 天前
系统负载高一定是CPU问题吗?
运维·cpu·it
十年编程老舅21 天前
读懂 MCU 启动:从上电到程序运行全链路
单片机·嵌入式硬件·mcu·嵌入式·cpu·嵌入式开发·ram