记一次 Kubebuilder Operator 开发中的 CRD 注解超限问题

问题现象

在开发一个名为 <font style="color:rgba(0, 0, 0, 0.87);background-color:rgb(241, 241, 241);">nova</font> 的 Operator 过程中,当我执行 <font style="color:rgba(0, 0, 0, 0.87);background-color:rgb(241, 241, 241);">make install</font>(其底层是 <font style="color:rgba(0, 0, 0, 0.87);background-color:rgb(241, 241, 241);">kubectl apply</font>)来安装 CustomResourceDefinition (CRD) 时,终端抛出了一个错误:

bash 复制代码
The CustomResourceDefinition "nova.batch.suknna" is invalid: metadata.annotations: Too long: may not be more than 262144 bytes
make: *** [install] Error 1

这个错误信息非常明确:CRD 的 <font style="color:rgba(0, 0, 0, 0.87);background-color:rgb(241, 241, 241);">metadata.annotations</font> 字段总大小超过了 262144 字节的硬性限制。

概念厘清:注解、CSA 与三路合并的来龙去脉

要理解这个问题,需要先弄清楚几个关键概念。

1. annotations 是什么?

在 Kubernetes 中,注解是与对象关联的键值对,用于存储非标识性的元数据 。这些信息可以被工具、库或控制器读取,但 Kubernetes 自身不依赖它们来核心逻辑。

2. last-applied-configuration

当使用 kubectl apply 命令时,默认采用的是 客户端应用(Client-Side Apply, CSA) 模式。为了智能地计算用户下一次 apply 时究竟需要修改哪些字段(而不是盲目覆盖),kubectl 需要一个参照物。

它的解决方案是:将你上次通过 apply 提交的整个 YAML/JSON 文件内容,完整地保存在一个名为 <font style="color:rgba(0, 0, 0, 0.87);background-color:rgb(241, 241, 241);">kubectl.kubernetes.io/last-applied-configuration</font> 的注解里。

这个过程依赖于三路合并

  • 旧状态<font style="color:rgba(0, 0, 0, 0.87);background-color:rgb(241, 241, 241);">last-applied-configuration</font> 注解中的内容。
  • 当前状态 :从 Kubernetes API 服务器获取的资源当前状态。
  • 新状态 :用户本次想要应用的 YAML 文件。
    <font style="color:rgba(0, 0, 0, 0.87);background-color:rgb(241, 241, 241);">kubectl</font> 会对比这三者,精确计算出需要修改、添加或删除的字段。

3. 问题原因

Kubebuilder 生成的 CRD 包含了非常详尽的 OpenAPI 验证规则(即 <font style="color:rgba(0, 0, 0, 0.87);background-color:rgb(241, 241, 241);">spec.versions[*].schema</font>)。这些规则本身就是一个极其庞大的 JSON 结构。当这个庞大的结构被整个塞进 <font style="color:rgba(0, 0, 0, 0.87);background-color:rgb(241, 241, 241);">last-applied-configuration</font> 注解时,注解的大小就很容易触达 256KB 的天花板。

解决办法

既然问题的根源是 CSA 模式依赖于一个本地的、可能很大的注解,那么解决方案就是换用一种不依赖这个注解的模式。

服务端应用(Server-Side Apply, SSA) 正是为此而生。

SSA 的核心思想:

  • 所有权转移 :SSA 将字段管理的职责从客户端转移到了 API 服务器。
  • 字段管理器 :服务器会为每个字段记录一个"管理者"。当你声明一个字段时,你就成为了它的管理者。
  • 冲突解决 :如果另一个管理者(比如另一个工程师或控制器)试图修改你管理的字段,默认情况下会产生冲突,需要明确指定 <font style="color:rgba(0, 0, 0, 0.87);background-color:rgb(241, 241, 241);">--force-conflicts</font> 来覆盖。

实施与效果:
切换到 SSA 非常简单,只需在 <font style="color:rgba(0, 0, 0, 0.87);background-color:rgb(241, 241, 241);">kubectl apply</font> 命令后加上 <font style="color:rgba(0, 0, 0, 0.87);background-color:rgb(241, 241, 241);">--server-side</font> 标志。例如,修改你的 <font style="color:rgba(0, 0, 0, 0.87);background-color:rgb(241, 241, 241);">Makefile</font>

makefile 复制代码
install: manifests kustomize ## Install CRDs into the K8s cluster specified in ~/.kube/config.
	$(KUSTOMIZE) build config/crd | $(KUBECTL) apply --server-side=true  -f -

执行此命令后:

  1. API 服务器接管了字段合并的职责。
  2. 不再需要生成和存储那个庞大的 <font style="color:rgba(0, 0, 0, 0.87);background-color:rgb(241, 241, 241);">last-applied-configuration</font> 注解。
  3. CRD 的元数据大小显著减小,256KB 的限制自然就不再是问题了。
相关推荐
李李李li3 分钟前
debian13.3安装k8s
云原生·容器·kubernetes
牛奶咖啡1314 小时前
k8s容器编排技术实践——使用containerd作为容器运行时部署k8s集群
kubernetes·k8s的安装部署·开启系统的ipvs支持·安装containerd·containerd配置加速器·安装k8s的工具·安装calico网络插件
2301_7807896616 小时前
手游遇到攻击为什么要用SDK游戏盾手游遇到攻击为什么要用 SDK 游戏盾?
安全·web安全·游戏·架构·kubernetes·ddos
珂玥c17 小时前
k8s集群ingress碎碎念
云原生·容器·kubernetes
佳杰云星17 小时前
如何给大模型集群选“大脑”?智算调度与管理平台 10 维选型指南(附选型评分表)
人工智能·kubernetes·大模型·云计算·gpu·算力调度·智算中心
比特森林探险记19 小时前
context 在 gRPC / Gin / K8s 中的实战
容器·kubernetes·gin
汪汪大队u20 小时前
基于 K8s 的物联网平台运维体系:Ansible+Zabbix 自动化监控与故障自愈(三)—— Zabbix Server 启动排错记
运维·kubernetes·ansible
日取其半万世不竭21 小时前
OpenCost:Kubernetes 成本监控,开源的云资源费用分析
容器·kubernetes·开源
Cat_Rocky21 小时前
k8s zabbix7学习-设置告警
学习·容器·kubernetes
云游牧者1 天前
K8S-Ingress流量治理全解-Traefik从入门到实战完全指南
云原生·中间件·容器·kubernetes·ingress·traefik