K8s基于节点软亲和的高 CPU Pod 扩容与优先调度方案

场景与目标

  • 集群节点:master(4 核)、node1(16 核)、node2(16 核)。
  • 目标 :将一个高 CPU 消耗的工作负载横向扩展到 4 个实例 ,并通过**节点亲和性(软亲和)**确保 Pod 优先调度到 node1、node2(CPU 更充足)。
  • 已完成:node1/node2 已打标签 cpu-tier=high。

参考:Kubernetes 官方节点亲和文档(支持首选型 preferred、权重 1--100)、Kuboard 亲和性教程(节点亲和的概念与写法)、以及中文教程对软/硬亲和的区分说明。


配置思路(为什么选"软亲和")

  • 软亲和(preferredDuringSchedulingIgnoredDuringExecution) :调度器会为满足规则的节点打分(可设定权重 1--100),尽量将 Pod 放到匹配节点(cpu-tier=high);若资源不足,仍可回退到其他节点,避免扩容/滚更卡在 Pending。
  • 硬亲和(required...) 相比,软亲和更利于弹性与可用性,减少因"条件太硬"而导致的调度失败。

节点标签(确认)

当前节点标签示例(你已完成):

复制代码
# 已有:为 16 核节点打上高 CPU 标签
kubectl label node node1 cpu-tier=high --overwrite=true
kubectl label node node2 cpu-tier=high --overwrite=true

节点亲和是基于节点标签实现的,preferred规则通过标签匹配给节点"加分"。


部署清单中的关键修改(仅节点软亲和)

Deployment 的 spec.template.spec 下添加 nodeAffinity(preferred),示例片段如下(可直接粘贴):

复制代码
affinity:
  nodeAffinity:
    preferredDuringSchedulingIgnoredDuringExecution:
      - weight: 100
        preference:
          matchExpressions:
            - key: cpu-tier
              operator: In
              values:
                - high

weight: 100 表示强烈偏好匹配该表达式的节点;调度器按规则累积分值进行优先选择。


一条命令合并补丁(不改其他字段)

将现有工作负载(以 prod/device 为例)打上节点软亲和 ,并把副本数扩到 4

复制代码
kubectl -n prod patch deploy device --type='merge' -p '
{
  "spec": {
    "replicas": 4,
    "template": {
      "spec": {
        "affinity": {
          "nodeAffinity": {
            "preferredDuringSchedulingIgnoredDuringExecution": [
              {
                "weight": 100,
                "preference": {
                  "matchExpressions": [
                    { "key": "cpu-tier", "operator": "In", "values": ["high"] }
                  ]
                }
              }
            ]
          }
        }
      }
    }
  }
}'

"首选型(preferred)"亲和规则在满足条件的节点上加分,确保优先调度到 node1/node2;当没有可用资源时,调度器仍会将 Pod 放到其它节点,以保障发布成功。


验证与观测

  1. 查看分布与所在节点

    kubectl -n prod get pod -l k8s.kuboard.cn/name=device -o wide

  2. 查看调度事件与亲和匹配

    kubectl -n prod describe pod <pod-name> | sed -n '1,120p'

观察 Node:、Events 中的调度决策与亲和性评估信息。

官方文档:节点亲和任务指南、概念详解。


推荐的配套优化(可选)

  • 声明资源请求/限制:为高 CPU 负载容器设置 resources.requests.cpu、resources.limits.cpu,帮助调度器更准确评估可用余量,从而更倾向于选择 16 核节点。
  • 控制平面隔离:通常 master/control-plane 节点带 NoSchedule 污点,业务 Pod 不会被调度到该节点;如曾清除,可按需恢复污点以保持隔离(此项与"软亲和"互补)。
  • (若想进一步均衡)拓扑分布约束:在软亲和基础上,你也可以为副本增加 topologySpreadConstraints,让 4 个副本在 node1/node2 之间尽量均匀(如目标 2+2),但本次你要求"仅节点软亲和",可暂不启用。

参考资料

Kubernetes 官方文档:Assign Pods to Nodes using Node Affinity(含 preferred/required 与权重说明)。
Kuboard 教程:亲和性与反亲和性(节点亲和的概念与示例)。
中文教程:亲和力软/硬的对比与说明。
CSDN:Kubernetes 进阶之容器组(Pod)(包含资源 requests/limits 的清单说明,可用于配合调度)。

相关推荐
yunson_Liu13 小时前
aws EKS集群pvc存储扩容
k8s·aws
张3234 天前
k8s etcd备份恢复
数据库·k8s·etcd
DSP芯思路5 天前
用人体类比讲透芯片:CPU是大脑,PLL是心脏,总线是大动脉
cpu·芯片·总线·pll
脑子加油站6 天前
kubernetes安装部署流程
k8s·安全架构
SilentSamsara6 天前
Kubernetes 网络模型:CNI 插件与 Pod 间通信的底层实现
网络·云原生·容器·架构·kubernetes·k8s
久绊A7 天前
在K8s中构建Apache服务的弹性伸缩防线
k8s
梵得儿SHI8 天前
SpringCloud 生产级落地:Docker 容器化 + K8s 编排部署全攻略(含完整 yaml + 避坑指南)
docker·云原生·kubernetes·k8s·springcloud·微服务部署·java 后端
Minla9 天前
kubectl常用命令别名设置(linux|windows)
linux·运维·服务器·k8s
SilentSamsara10 天前
etcd 运维:数据一致性、备份恢复与性能调优
运维·服务器·数据库·kubernetes·kubectl·k8s·etcd
SilentSamsara11 天前
存储卷体系:EmptyDir/HostPath/PV/PVC/StorageClass 的选型决策树
服务器·微服务·云原生·容器·架构·kubernetes·k8s