Infra 现代研发基础设施实战:从 IaC、K8s 到平台工程与可观测性

作者:这篇文章不是"Infra 概念科普",而是一线技术专家视角的工程笔记。

我们会把 Infra 拆成:计算 / 网络 / 存储 / 容器 / CI-CD / GitOps / 可观测性 / 平台工程 八大件,配上 Terraform、Kubernetes、GitHub Actions、OpenTelemetry 的真实代码片段,顺便把踩过的坑直接写成"结论 + 操作步骤"。

科普:Infra 是 infrastructure(基础设施)的缩写‌,音标为 ˈɪnfrə,在技术领域通常指支撑系统运行的底层基础架构 。2026 年以来,随着大模型应用普及,‌AI Infra(人工智能基础设施)成为行业热点‌,指的是支撑人工智能应用开发、部署、运行和管理的一系列基础工具和软件平台 。


0. 为什么 Infra 是研发系统的地基

很多团队把"业务代码"当主角,把"基础设施"当配角:

  • 环境靠手工点控制台
  • 网络靠 Excel 记网段
  • 发布靠"我本地能跑"
  • 故障靠"谁登上去看看"

结果就是:

业务越复杂,环境越像黑盒;

人一多,配置就开始漂移;

出一次事,排查三小时起步。

Infra 的本质,不是"服务器 + 网络",而是:

把基础设施当成软件来设计、版本化、测试、交付。

现代 Infra 的核心目标就四个字:确定、可复现。


1. Infra 的分层模型(先建全局视角)

我习惯把一套现代研发 Infra 分成 5 层:

复制代码
┌─────────────────────────────┐
│  Platform / Developer Portal │  平台工程、自助环境、Golden Path
├─────────────────────────────┤
│  App Runtime                │  K8s / 容器 / 服务网格
├─────────────────────────────┤
│  CI/CD + GitOps             │  构建、测试、发布、回滚
├─────────────────────────────┤
│  IaC Base                   │  网络、VPC、安全组、集群、存储
├─────────────────────────────┤
│  Cloud / BareMetal          │  计算、对象存储、数据库、DNS
└─────────────────────────────┘

每一层都要"代码化",不是"文档化"。


2. IaC:基础设施即代码(Infra as Code)

2.1 声明式才是正路

IaC 有两种写法:

  • 命令式:先建 A,再改 B,最后配 C(脚本味重)
  • 声明式:我只写"终态",引擎自己收敛(Terraform / OpenTofu)

生产环境一律建议声明式。

核心原则:

  1. 幂等:apply 一百次,结果一样
  2. 不可变:不改正在跑的机器,直接换新的
  3. 状态外置:state 放远端,不落本地
  4. 变更可 Review:Infra 改动 = 提 PR

2.2 Terraform 项目结构(真实可用)

复制代码
infra/
├── modules/
│   ├── vpc/
│   │   ├── main.tf
│   │   ├── variables.tf
│   │   └── outputs.tf
│   ├── eks/
│   ├── rds/
│   └── observability/
├── environments/
│   ├── dev/
│   │   ├── main.tf
│   │   └── terraform.tfvars
│   ├── staging/
│   └── prod/
├── policies/
│   └── opa/
└── tests/

2.3 一个最小可跑的 VPC 模块

modules/vpc/main.tf

复制代码
resource "aws_vpc" "this" {
  cidr_block           = var.vpc_cidr
  enable_dns_support   = true
  enable_dns_hostnames = true

  tags = {
    Name = "${var.env}-vpc"
  }
}

resource "aws_subnet" "public" {
  count                   = length(var.public_cidrs)
  vpc_id                  = aws_vpc.this.id
  cidr_block              = var.public_cidrs[count.index]
  availability_zone       = var.azs[count.index]
  map_public_ip_on_launch = true

  tags = {
    Name = "${var.env}-public-${count.index}"
  }
}

resource "aws_subnet" "private" {
  count             = length(var.private_cidrs)
  vpc_id            = aws_vpc.this.id
  cidr_block        = var.private_cidrs[count.index]
  availability_zone = var.azs[count.index]

  tags = {
    Name = "${var.env}-private-${count.index}"
  }
}

environments/prod/main.tf

复制代码
module "vpc" {
  source = "../../modules/vpc"

  env            = "prod"
  vpc_cidr       = "10.10.0.0/16"
  azs            = ["cn-north-1a", "cn-north-1b"]
  public_cidrs   = ["10.10.1.0/24", "10.10.2.0/24"]
  private_cidrs  = ["10.10.11.0/24", "10.10.12.0/24"]
}

2.4 State 管理:别把生产拓扑写进明文字节

结论先行:

Terraform State 里可能有网段、资源名、甚至临时明文变量,必须远程存 + 加密 + 锁。

推荐做法:

复制代码
terraform {
  backend "s3" {
    bucket         = "infra-state-prod"
    key            = "prod/vpc/terraform.tfstate"
    region         = "cn-north-1"
    dynamodb_table = "infra-lock"
    encrypt        = true
  }
}

踩坑结论:

  • 不要提交 .tfstate 到 Git
  • 不要多人本地同时 apply
  • 敏感变量用 sensitive = true + Secrets Manager

3. 容器与 K8s:不可变基础设施的主战场

3.1 为什么 K8s 是 Infra 核心

K8s 把"应用运行"抽象成声明式对象:

  • Pod:最小运行单元
  • Deployment:我要几个副本
  • Service:怎么被发现
  • Ingress:怎么被访问
  • ConfigMap/Secret:配置与密钥

你不再"登机器改配置",而是"改 YAML,集群自己收敛"。

3.2 一个生产级 Deployment 样例

bash 复制代码
apiVersion: apps/v1
kind: Deployment
metadata:
  name: audit-service
  namespace: audit-system
spec:
  replicas: 3
  selector:
    matchLabels:
      app: audit-service
  strategy:
    rollingUpdate:
      maxSurge: 1
      maxUnavailable: 0
  template:
    metadata:
      labels:
        app: audit-service
    spec:
      containers:
      - name: audit-service
        image: registry.internal/audit-service:1.4.2
        ports:
        - containerPort: 8080
        resources:
          requests:
            cpu: "500m"
            memory: "512Mi"
          limits:
            cpu: "1"
            memory: "1Gi"
        readinessProbe:
          httpGet:
            path: /health
            port: 8080
          initialDelaySeconds: 10
          periodSeconds: 5
        livenessProbe:
          httpGet:
            path: /health
            port: 8080
          initialDelaySeconds: 20
          periodSeconds: 10
        envFrom:
        - configMapRef:
            name: audit-config
        - secretRef:
            name: audit-secrets

关键不是"能跑",而是:

  • 有探针(不然流量打死 Pod)
  • 有资源限制(不然邻居被拖崩)
  • 配置分离(镜像不包含环境配置)
  • 版本固定(不用 latest)

3.3 网络与存储边界

生产集群网络建议:

  • Public subnet:只放 LB / Ingress
  • Private subnet:放业务 Pod
  • 数据库不进 K8s,走云托管 RDS
  • 对象存储走 MinIO / 云 OSS,不挂本地盘

对象存储用 MinIO 举个真实配置例子:

复制代码
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: minio-pvc
  namespace: storage
spec:
  accessModes:
    - ReadWriteOnce
  resources:
    requests:
      storage: 50Gi

结论:有状态服务尽量"外置存储",Pod 本身必须是可丢弃的。


4. CI/CD:把 Infra 变更塞进流水线

4.1 流水线不是"构建脚本"

生产级 CI/CD 至少分四段:

复制代码
代码提交
  ↓
静态检查 + 单测
  ↓
构建镜像 + 扫描
  ↓
Infra Plan / Apply
  ↓
滚动发布 + 健康检查

4.2 GitHub Actions 实战(含 IaC)

.github/workflows/infra.yml

复制代码
name: infra-ci

on:
  pull_request:
    paths:
      - "infra/**"

jobs:
  terraform:
    runs-on: ubuntu-latest
    steps:
      - uses: actions/checkout@v4

      - name: Setup Terraform
        uses: hashicorp/setup-terraform@v3

      - name: Terraform Init
        run: terraform -chdir=environments/prod init

      - name: Terraform Format
        run: terraform -chdir=environments/prod fmt -check

      - name: Terraform Validate
        run: terraform -chdir=environments/prod validate

      - name: Terraform Plan
        run: terraform -chdir=environments/prod plan

合并后自动 apply:

复制代码
apply:
    needs: terraform
    if: github.ref == 'refs/heads/main'
    runs-on: ubuntu-latest
    steps:
      - uses: actions/checkout@v4
      - run: terraform -chdir=environments/prod apply -auto-approve

4.3 应用发布用 GitOps

K8s 里别再手写 kubectl apply,用 ArgoCD / Flux。

ArgoCD 核心逻辑:

  • Git 里存"期望状态"

  • ArgoCD 对比集群"实际状态"

  • 不一致就自动同步

    apiVersion: argoproj.io/v1alpha1
    kind: Application
    metadata:
    name: audit-service
    namespace: argocd
    spec:
    project: default
    source:
    repoURL: https://git.internal/platform.git
    path: apps/audit-service
    targetRevision: main
    destination:
    server: https://kubernetes.default.svc
    namespace: audit-system
    syncPolicy:
    automated:
    prune: true
    selfHeal: true

结论:Git 是唯一真相源,集群只是执行器。


5. 可观测性:Infra 的"仪表盘"

没有可观测性的 Infra = 盲飞。

三件套:

  • Metrics:Prometheus + Grafana
  • Logs:Loki / OpenSearch
  • Traces:OpenTelemetry + Tempo / Jaeger

5.1 OpenTelemetry 注入 Trace

Spring Boot 服务里接 OTel:

复制代码
otel:
  exporter:
    otlp:
      endpoint: http://otel-collector:4317
  service:
    name: audit-service
  traces:
    sampler: always_on

Python Flask 服务:

复制代码
from opentelemetry import trace
from opentelemetry.exporter.otlp.proto.grpc.trace_exporter import OTLPSpanExporter
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import BatchSpanProcessor

provider = TracerProvider()
provider.add_span_processor(
    BatchSpanProcessor(OTLPSpanExporter(endpoint="http://otel-collector:4317"))
)
trace.set_tracer_provider(provider)

tracer = trace.get_tracer(__name__)

5.2 日志和链路打通

日志里必须带 trace_id:

复制代码
{
  "ts": "2026-11-17T10:22:01Z",
  "level": "ERROR",
  "service": "audit-service",
  "trace_id": "4b7c1f2a9e844e1f",
  "msg": "rule evaluate timeout"
}

Grafana 里配置:

  • 从 Trace 跳日志
  • 从日志跳 Trace
  • 从 Metric 下钻到实例

结论:可观测性不是"装个监控",而是把"请求上下文"贯穿全链路。


6. 安全左移:Infra 也要过安检

6.1 镜像扫描

CI 里加 Trivy:

复制代码
- name: Scan Image
  uses: aquasecurity/trivy-action@master
  with:
    image-ref: registry.internal/audit-service:${{ github.sha }}
    severity: HIGH,CRITICAL
    exit-code: 1

6.2 策略即代码(Policy as Code)

用 OPA / Checkov 拦违规 IaC:

复制代码
- name: IaC Scan
  run: checkov -d infra/

比如禁止:

  • 0.0.0.0/0 开放 22 端口
  • 公网 RDS
  • 没配加密的存储桶

6.3 密钥不进代码

结论:

  • 应用运行时用 Secret 挂载
  • CI 用 OIDC,不用长期 AK/SK
  • Vault / 云 Secrets Manager 是标配

7. 平台工程:让研发"少感知 Infra"

7.1 为什么需要平台工程

SRE 不想天天帮业务建环境,业务也不想学 Terraform。

解法:内部开发者平台(IDP)。

能力矩阵:

能力 表现
自助建环境 点一下出一套 namespace
模板化服务 新服务自动带监控/日志
统一网关 不用自己配 Ingress
标准发布 默认金丝雀 + 自动回滚

7.2 Backstage 服务目录样例

复制代码
apiVersion: backstage.io/v1alpha1
kind: Component
metadata:
  name: audit-service
  description: 智能审计规则引擎
spec:
  type: service
  lifecycle: production
  owner: team-audit

研发只看"我的服务",不用看"底层 VPC"。


8. AI 编程工具在 Infra 里的用法与边界

现在写 Infra 也离不开 AI 工具,但结论很直接:

AI 适合写模板,不适合替你拍板生产架构。

可用场景:

  • 生成 Terraform 模块骨架
  • 补全 K8s YAML
  • 写 CI 片段
  • 解释报错栈

不能用场景:

  • 直接生成生产网络拓扑
  • 自动 apply 到 prod
  • 不审策略就合并 IaC PR

实操建议:

  1. 让 AI 出 draft
  2. 人工审"权限 / 网段 / 状态锁 / 成本"
  3. 单测 + plan 输出贴 PR
  4. 合并前双人 review

顺带提一句:技术文章别让 AI 率太高,代码要真、踩坑要实,不然同行一眼假。


9. 典型生产架构一张图(审计系统示例)

复制代码
┌────────────┐
   用户/前端 ───▶ │  Ingress   │
                 └─────┬──────┘
                       │
              ┌────────▼────────┐
              │  K8s Service    │
              │  audit-service  │
              └────────┬────────┘
                       │
        ┌──────────────┼──────────────┐
        │              │              │
   ┌────▼────┐   ┌─────▼─────┐   ┌────▼────┐
   │ Rule    │   │ Document  │   │ Trace   │
   │ Engine  │   │ Parser    │   │ Collect │
   └────┬────┘   └─────┬─────┘   └────┬────┘
        │              │              │
   ┌────▼────┐   ┌─────▼─────┐  ┌────▼────┐
   │ Oracle  │   │  MinIO     │  │ OTel    │
   │ Kingbase│   │ 对象存储   │  │ Prometheus│
   └─────────┘   └───────────┘  └─────────┘

IaC: Terraform + OpenTofu
CI : GitHub Actions / 云效
CD : ArgoCD
Obs: Grafana + Loki + Tempo

10. 踩坑清单(直接结论版)

10.1 Terraform 漂移

现象:terraform plan 总显示非预期变更

结论:

  • 禁止控制台手改生产资源
  • 加 drift detection
  • 紧急手工操作后,立刻反写代码并提 PR

10.2 K8s 滚动发布断流

现象:发布瞬间 502

操作步骤:

  1. 加 readinessProbe
  2. 用 preStop 优雅下线
  3. Argo Rollouts 做金丝雀
  4. 检查 Ingress 健康检查

10.3 日志爆量

现象:Grafana 查不动

结论:

  • 生产只采 ERROR + 关键 INFO
  • 日志采样
  • 冷数据转对象存储

10.4 状态文件泄露

结论:

  • S3 加密
  • 禁止匿名读
  • CI 用临时凭证

11. Infra 成熟度模型(对照自检)

阶段 特征 痛点
L0 手工点控制台 环境漂移
L1 脚本化部署 不可幂等
L2 Terraform 管理资源 无测试、无策略
L3 GitOps + CI 扫描 缺平台化
L4 平台工程 + 自服务 组织协作成本
L5 AI 辅助运维闭环 审计与责任边界

大多数团队卡在 L2--L3,能到 L4 已经很能打。


12. 未来 Infra 的三个方向

12.1 GitOps 成为默认

以后不是"部署系统",而是:

Git 提交 = 生产变更

12.2 多云 / 信创 / 混合云统一抽象

上层用 Crossplane / 自研控制面,屏蔽底层云差异。

12.3 AIOps + Infra Agent

  • 监控异常 → 自动提 PR
  • 成本超标 → 自动缩容建议
  • 故障定位 → Trace + 日志自动聚合

但记住:

AI 可以提方案,不能无人值守改生产。


13. 总结:Infra 工程师的核心能力

做 Infra 不是"会写 Terraform"就行,真正值钱的是:

  1. 能把业务风险翻译成架构边界
  2. 能让环境可复现、可回滚、可审计
  3. 能把复杂系统收敛成简单抽象
  4. 能在故障现场 10 分钟给结论

一句话收尾:

好 Infra 的标准,不是多先进,而是:半夜出问题,你能睡得着。


附录:最小学习路径

  • IaC:Terraform / OpenTofu
  • 容器:Docker → K8s → ArgoCD
  • 网络:VPC / Subnet / Ingress / NetworkPolicy
  • 可观测:Prometheus / Grafana / OTel
  • 安全:Trivy / OPA / Vault
  • 平台:Backstage / K8s CRD / 内部模板
相关推荐
分布式存储与RustFS39 分钟前
Rivet 的 Agent 状态存进自建 RustFS:主桶配置与上线边界
运维·云原生·开源·对象存储·分布式存储·s3·性能基准
AI开源软件1 小时前
Kubernetes 网络实战:打通 Pod、Service 与集群外任务调度器的双向调用
docker·nacos·kubernetes·xxl-job·calico·微服务部署·ruoyi office
csdn_aspnet5 小时前
Docker 啟動MySQL Server連上MySQL Workbench
mysql·docker·容器
瑞克-桑切斯1 天前
Kubernetes 1.28 保姆级新手学习教程
运维·学习·docker·云原生·容器·kubernetes
阿里云云原生1 天前
我们用 AI 给 AgentLoop 手搓了一套海底世界探秘游戏,并开源了
云原生·agent
阿里云云原生1 天前
LoongSuite Pilot × Qoder:一次配置,全员可审计
云原生
阿里云云原生1 天前
把主力模型用在刀刃上:一个月 300 亿 Token、31 万行 Rust 背后的 AI Coding 实践
云原生
对象存储与RustFS1 天前
对象锁遇上版本化:删掉的对象还在,真删的又删不掉
后端·docker·云原生
遇雪长安1 天前
wslc 来了:Docker Desktop 还要留着吗?
运维·docker·容器