AI Infra 的真相：Go 没输，rust也不是取代

作者：吴佳浩

撰稿时间：2026-6-8

最后更新：2026-6-8

本来是不太想写这篇内容，由于在之前的go的文章中的评论区有网友提出以下的观点如果你的开发年限大于3年以上大概率是说不出这种话的。但是也感谢这位网友提供的话题我们今天就来聊聊相关的内容。此篇内容为本人的个人见解和对行业行业的观察而得出（不喜勿喷😄)

引言

最近两年，关于 「Rust 取代 Go」 的声音越来越多。

尤其是在 AI Infra 爆发之后，从 Tokenizer 到推理框架，从向量数据库到高性能网关，大量新项目开始选择 Rust。

于是很多人得出一个结论：

Rust 正在取代 Go。

但如果你真正观察云原生和基础设施领域，会发现现实远比这个结论复杂。

甚至可以说：

Rust 和 Go 目前根本不是竞争关系，而是分工关系。

很多人看到 Rust 的崛起，却忽略了一个更重要的事实：

Rust 真正蚕食的，其实是过去属于 C++ 的地盘。

AI Infra 正在形成新的技术分层

如果观察最近两年的明星项目。

mindmap root((AI Infra)) Python Agent Workflow LangChain DSPy FastAPI 模型应用 Go Kubernetes Operator 微服务 API Gateway 服务编排控制面 Rust Tokenizer KV Cache VectorDB 推理引擎网络框架数据面 C++ CUDA TensorRT FlashAttention LLVM 编译器 C Linux Kernel Driver Firmware

会发现一种越来越明显的趋势：

flowchart TB subgraph AI["AI时代基础设施栈"] PY[Python] GO[Go] RS[Rust] CPP[C++] C[C] end PY --> APP["Agent Workflow LLM应用"] GO --> CTRL["Control Plane Kubernetes Operator API Gateway"] RS --> DATA["Data Plane KV Cache VectorDB Inference Engine"] CPP --> GPU["CUDA TensorRT FlashAttention"] C --> DRIVER["Kernel Driver Firmware"] APP --> CTRL CTRL --> DATA DATA --> GPU GPU --> DRIVER

这并不是未来的预测。

而是 2024~2026 年已经发生的现实。

Rust 为什么突然火了？

原因很简单。

AI Infra 出现了大量极致性能场景：

Tokenizer
KV Cache
向量检索
推理网关
GPU 调度
高性能网络

这些组件有一个共同特点：

text 复制代码

高并发
低延迟
内存敏感

过去很多项目会选择：

text 复制代码

C/C++

而最近几年开始变成：

text 复制代码

Rust

很多人因此产生错觉：

flowchart LR A[AI Infra爆发] --> B[Rust项目增多] --> C[媒体报道] --> D[Rust取代Go]

实际上这里少了一步。

Rust 抢走的很多并不是 Go 的市场。

而是 C++ 的市场。

同一个任务，三种语言会写成什么样？

以推理网关中的 Token 统计为例。

Rust

特点：

零成本抽象
所有权系统
编译期内存安全

rust 复制代码

use std::sync::Arc;
use tokio::sync::RwLock;

struct TokenCounter {
    counts: Arc<RwLock<Vec<u64>>>,
}

编译器会帮你解决：

数据竞争
悬空指针
Use After Free

这些曾经属于 C++ 工程师的噩梦。

Go

特点：

Goroutine
Channel
工程效率极高

go 复制代码

go func(idx int, t string) {
    defer wg.Done()
    results[idx] = uint64(len(strings.Fields(t)))
}(i, text)

代码简单。

维护成本低。

这也是 Kubernetes 最终选择 Go 的重要原因。

C++

特点：

极限性能
手动管理资源

cpp 复制代码

threads.emplace_back([&, i]() {
    results[i] = count_words(texts[i]);
});

自由度极高。

同时风险也极高。

很多线上事故最终都与：

text 复制代码

Use After Free

Double Free

Memory Leak

Data Race

有关。

Go 的基本盘其实没动

如果把目光放到整个 Infra 世界。

你会发现：

Kubernetes
Docker
etcd
Prometheus
OpenTelemetry
Argo

这些项目依然建立在 Go 生态之上。

过去十年：

timeline title 云原生语言演进 2014 : Docker爆发 2015 : Kubernetes崛起 2017 : Go成为云原生标准 2020 : 云原生全面普及 2026 : Go仍然是控制面主流

对于很多企业来说：

text 复制代码

基础设施 = Go

已经形成了巨大的生态惯性。

没人会因为 Rust 快一些。

就去重写几十万行生产代码。

企业真正关心什么？

很多开发者关注：

text 复制代码

性能
延迟
吞吐量

而 CTO 更关心：

text 复制代码

开发效率
招聘难度
维护成本

现实往往是：

项目	Go	Rust
招聘	容易	较难
学习曲线	平缓	陡峭
开发效率	高	中等
极限性能	高	极高
维护成本	低	中等
云原生生态	极强	快速增长

因此大量企业最终的选择是：

flowchart TD A[是否存在性能瓶颈] A -->|否| B[继续使用Go] A -->|是| C[局部引入Rust] C --> D[高性能模块Rust] C --> E[控制逻辑Go]

而不是：

text 复制代码

All Rust

Rust 真正抢的是谁的市场？

mindmap root((Rust崛起)) 媒体视角 Rust取代Go 新项目大量使用Rust AI Infra爆发实际情况 Rust接手C++ Go基本盘稳定 Python统治AI应用 Rust优势内存安全无GC 高性能并发安全 Go优势开发效率招聘容易云原生生态 Kubernetes C++压力 UseAfterFree DoubleFree MemoryLeak 学习成本高最终格局 Python负责AI Go负责控制面 Rust负责数据面

很多文章喜欢讨论：

text 复制代码

Rust VS Go

但现实中更合理的问题应该是：

text 复制代码

Rust VS C++

因为：

Rust 获得了接近 C++ 的性能
Rust 拥有远高于 C++ 的安全性
Rust 降低了系统软件开发门槛

很多新项目开始出现这样的选择：

过去：

text 复制代码

性能要求高

↓

直接上 C++

现在：

text 复制代码

性能要求高

↓

优先考虑 Rust

这才是最大的变化。

AI Infra 的最终格局

未来几年更可能出现的是：

flowchart LR CPP[C++] CPP --> Rust Go --> CloudNative[云原生] Python --> AI[AI应用] Rust --> AIInfra[AI Infra] CloudNative --> AIInfra

最终形成稳定格局：

层级	主流语言
AI应用层	Python
控制面（Control Plane）	Go
数据面（Data Plane）	Rust
GPU算子层	CUDA / C++
驱动层	C

结论

过去十年大家讨论的是：

text 复制代码

Go 会不会取代 Java？

现在大家讨论的是：

text 复制代码

Rust 会不会取代 Go？

但真正发生的事情其实是：

flowchart LR OLD["过去十年"] OLD --> GJ["Go vs Java"] NOW["现在"] NOW --> RG["Rust vs Go"] FUTURE["未来十年"] FUTURE --> PGR["Python + Go + Rust"]

Go 负责让系统跑起来。

Rust 负责让系统跑得更快。

Python 负责让 AI 真正产生价值。

所以问题从来不是：

Rust 会不会取代 Go？

而是：

在 AI Infra 时代，哪些原本属于 C++ 的领域，正在被 Rust 接管。

这才是这场技术变迁真正值得关注的地方。