如何优化k8s中HPA的弹性速率

本文分享自华为云社区《K8s 核心资源指标HPA性能优化之路》,作者:可以交个朋友。

一 背景

以弹性指标为cpu、memory为例。在Kubernetes 1.7版本中引入了聚合层,允许第三方应用程序注册相关API接口到kube-apiserver上。其中 /apis/metrics.k8s.io/v1beta1 一般由metrics-server程序提供,以插件的形式安装在K8s集群中。相关流程如下:

纵观整个链路如何优化HPA的弹性速率呢?

二 关键时间点分析

首先对于HPA controller

Kubernetes 将HPA pod自动扩缩实现为一个间歇运行的控制回路,间隔由kube-controller-manager的 --horizontal-pod-autoscaler-sync-period参数设置,默认间隔为15s。
然后kubelet指标汇总。kubelet提供指标端点:10250/metrics/resource 15刷新一次指标数据。容器指标由cadvisor负责采集,cAdvisor已经集成到kubelet程序当中。

metrics-server默认抓取时间为60s一次,60s的时间间隔内,kubelet的指标已经刷新4轮了,HPAcontroller也运行4轮了。

所以我们优化的思路可以从metrics-server程序入手,可以将HPA弹性响应速率提高45s左右。kube-controller-manager的参数不宜修改,设置过短会对集群控制面造成压力,产生过载风险。kubelet刷新指标间隔15s 同样也是一个合理且推荐的数值。

三 优化方案

metrics-server启动参数--metric-resolution可用于设置指标保留的时间。默认是60s,我们可以将该值设置为15s 加快pod资源指标的获取速率。

未修改指标保存时间前,查看metrics-server日志可以发现平均60s抓取一次指标


修改metrics-server负载配置,添加启动参数

复制代码
containers:
  - command:
    - /metrics-server
    - --metric-resolution=15s # 添加该参数,加快指标更新速率
    - --v=6  # 可设置日志级别,可以通过日志查看进程工作信息
    - xxx 

查看metrics-server日志发现抓取指标间隔为15s

四 验证过程

主要是对比优化该参数后,HPA弹性的速率是否提高。

基于负载app01创建伸缩策略,以cpu指标为例,HPA配置清单如下:

复制代码
apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: app01
  namespace: hu
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: app01
  minReplicas: 1
  maxReplicas: 10
  metrics:
  - type: Resource
    resource:
      name: cpu
      target:
        type: Utilization
        averageUtilization: 50

4.1 优化前

对工作负载进行压测,探知HPAcontroller感知metrics的变化并观察HPA弹性的灵敏度

通过上图我们可以发现,HPA对指标变化感知滞后:
其中60s-90s区间内,指标数值一直为250%,未发生变化。实际情况是HPAcontroller已经运转三次,但是每次获取的指标均为250%。
4m-7m15s区间内,每隔60s HPA状态刷新一次,也就是说60s后 HPAcontroller才能感知下游服务的状态变化。

可能大家也会有疑问,在执行 kubectl get xxx -w 的时候,每隔15s也刷新了一次数据,那是因为有其它value值发生了变化,例如REPLICAS值发生了变化,所以被记录了下来,并不是因为指标刷新触发的。

4.2 优化后

对工作负载进行压测,探知HPAcontroller感知metrics的变化并观察HPA弹性的灵敏度

通过上图我们可以发现,HPA对指标变化的获取提升明显,几乎每隔15s指标都会变化一次,如果获取的指标满足扩容条件则会立马扩容。
其中 60s-90s 区间内,其它选项保持不变(MINPODS、MAXPODS、REPLICAS),指标每隔15s就会刷新一次。HPA会根据当前获取的指标结合特定算法进行扩缩的实例的判断。
其中2m15s-4m 区间内,其它选项保持不变,指标固定每隔15s会刷新一次。

可能大家会有疑问,明明指标已经达到扩容条件了,例如60s那个时间点,这就和HPA算法有关系了,如果存在未就绪状态或者不健康的pod,这些pod会被搁置掉不参与计算,所以75s那个时间,并未看到扩容行为。但是这些动作不与metrics指标层面冲突,metrics-server每隔15s上报一次指标,剩下具体的扩缩就是HPA controller该做的了。

点击关注,第一时间了解华为云新鲜技术~

相关推荐
AliCloudROS1 天前
阿里云ACK+GitLab企业级部署实战教程
k8s·gitlab·helm·ack·计算巢
仇辉攻防1 天前
【云安全】云原生- K8S 污点横移
web安全·网络安全·云原生·容器·kubernetes·k8s·安全威胁分析
明明跟你说过2 天前
【Kubernetes】常用命令全解析:从入门到实战(下)
运维·云原生·容器·kubernetes·k8s
KubeSphere 云原生5 天前
云原生周刊:KubeEdge 1.20.0版本正式发布
云计算·k8s·容器平台·kubesphere
格桑阿sir6 天前
Kubernetes控制平面组件:Kubernetes如何使用etcd
kubernetes·k8s·etcd·高可用集群·故障分析·etcd集群调优
qq_448941087 天前
8、k8s的pv和pvc
kubernetes·k8s
仇辉攻防8 天前
【云安全】云原生-K8S(四)安全问题分析
安全·web安全·网络安全·云原生·kubernetes·k8s·安全威胁分析
明明跟你说过8 天前
【Kubernetes】常用命令全解析:从入门到实战(中)
运维·docker·云原生·容器·kubernetes·k8s
仇辉攻防9 天前
【云安全】云原生-K8S(三) 安装 Dashboard 面板
web安全·网络安全·云原生·容器·kubernetes·k8s·安全威胁分析
仇辉攻防10 天前
【云安全】云原生- K8S Kubelet 未授权访问
web安全·网络安全·云原生·kubernetes·k8s·安全威胁分析·kubelet