K8s基于节点软亲和的高 CPU Pod 扩容与优先调度方案

场景与目标

  • 集群节点:master(4 核)、node1(16 核)、node2(16 核)。
  • 目标 :将一个高 CPU 消耗的工作负载横向扩展到 4 个实例 ,并通过**节点亲和性(软亲和)**确保 Pod 优先调度到 node1、node2(CPU 更充足)。
  • 已完成:node1/node2 已打标签 cpu-tier=high。

参考:Kubernetes 官方节点亲和文档(支持首选型 preferred、权重 1--100)、Kuboard 亲和性教程(节点亲和的概念与写法)、以及中文教程对软/硬亲和的区分说明。


配置思路(为什么选"软亲和")

  • 软亲和(preferredDuringSchedulingIgnoredDuringExecution) :调度器会为满足规则的节点打分(可设定权重 1--100),尽量将 Pod 放到匹配节点(cpu-tier=high);若资源不足,仍可回退到其他节点,避免扩容/滚更卡在 Pending。
  • 硬亲和(required...) 相比,软亲和更利于弹性与可用性,减少因"条件太硬"而导致的调度失败。

节点标签(确认)

当前节点标签示例(你已完成):

复制代码
# 已有:为 16 核节点打上高 CPU 标签
kubectl label node node1 cpu-tier=high --overwrite=true
kubectl label node node2 cpu-tier=high --overwrite=true

节点亲和是基于节点标签实现的,preferred规则通过标签匹配给节点"加分"。


部署清单中的关键修改(仅节点软亲和)

Deployment 的 spec.template.spec 下添加 nodeAffinity(preferred),示例片段如下(可直接粘贴):

复制代码
affinity:
  nodeAffinity:
    preferredDuringSchedulingIgnoredDuringExecution:
      - weight: 100
        preference:
          matchExpressions:
            - key: cpu-tier
              operator: In
              values:
                - high

weight: 100 表示强烈偏好匹配该表达式的节点;调度器按规则累积分值进行优先选择。


一条命令合并补丁(不改其他字段)

将现有工作负载(以 prod/device 为例)打上节点软亲和 ,并把副本数扩到 4

复制代码
kubectl -n prod patch deploy device --type='merge' -p '
{
  "spec": {
    "replicas": 4,
    "template": {
      "spec": {
        "affinity": {
          "nodeAffinity": {
            "preferredDuringSchedulingIgnoredDuringExecution": [
              {
                "weight": 100,
                "preference": {
                  "matchExpressions": [
                    { "key": "cpu-tier", "operator": "In", "values": ["high"] }
                  ]
                }
              }
            ]
          }
        }
      }
    }
  }
}'

"首选型(preferred)"亲和规则在满足条件的节点上加分,确保优先调度到 node1/node2;当没有可用资源时,调度器仍会将 Pod 放到其它节点,以保障发布成功。


验证与观测

  1. 查看分布与所在节点

    kubectl -n prod get pod -l k8s.kuboard.cn/name=device -o wide

  2. 查看调度事件与亲和匹配

    kubectl -n prod describe pod <pod-name> | sed -n '1,120p'

观察 Node:、Events 中的调度决策与亲和性评估信息。

官方文档:节点亲和任务指南、概念详解。


推荐的配套优化(可选)

  • 声明资源请求/限制:为高 CPU 负载容器设置 resources.requests.cpu、resources.limits.cpu,帮助调度器更准确评估可用余量,从而更倾向于选择 16 核节点。
  • 控制平面隔离:通常 master/control-plane 节点带 NoSchedule 污点,业务 Pod 不会被调度到该节点;如曾清除,可按需恢复污点以保持隔离(此项与"软亲和"互补)。
  • (若想进一步均衡)拓扑分布约束:在软亲和基础上,你也可以为副本增加 topologySpreadConstraints,让 4 个副本在 node1/node2 之间尽量均匀(如目标 2+2),但本次你要求"仅节点软亲和",可暂不启用。

参考资料

Kubernetes 官方文档:Assign Pods to Nodes using Node Affinity(含 preferred/required 与权重说明)。
Kuboard 教程:亲和性与反亲和性(节点亲和的概念与示例)。
中文教程:亲和力软/硬的对比与说明。
CSDN:Kubernetes 进阶之容器组(Pod)(包含资源 requests/limits 的清单说明,可用于配合调度)。

相关推荐
阿乐艾官1 小时前
一个完整的创建Pod流程
k8s
j200103221 天前
Prometheus
k8s·prometheus
淡泊if3 天前
K8s 网络排障:从抓包开始,一步步定位诡异“502”
网络·kubernetes·k8s
放逐者-保持本心,方可放逐4 天前
地图 热力图核心封装
javascript·cpu·gpu·热力图·cesium·核心渲染判断·渲染管线优化
HyperAI超神经4 天前
AI驱动量子精修,卡内基梅隆大学等提出AQuaRef,首次用量子力学约束精修蛋白质全原子模型
人工智能·深度学习·机器学习·架构·机器人·cpu·量子计算
HyperAI超神经4 天前
基于2.5万临床数据,斯坦福大学发布首个原生3D腹部CT视觉语言模型,Merlin在752类任务中全面领先
人工智能·深度学习·神经网络·机器学习·3d·语言模型·cpu
WAIT_TIME7 天前
RKE2 + KubeSphere 部署方案
k8s·kubesphere·rancher·rke2
稀样8 天前
常见的学习资料网站
k8s·jenkins
HyperAI超神经8 天前
物理信息机器学习新突破!新型GNN架构可对复杂多体动力系统进行准确预测,赋能机器人/航空航天/材料科学
人工智能·深度学习·机器学习·架构·机器人·cpu·物理
老友@9 天前
云计算的统一心智模型
开发语言·ci/cd·docker·云计算·k8s·perl