ChatGPT的基础设施与数据层是一个高度集成且规模庞大的系统工程，旨在支撑大规模模型训练、海量数据处理以及服务每周超10亿用户的实时产品。
🏗️ 基础设施层：为训练与服务提供算力基石
训练集群与网络架构
* **算力规模**：OpenAI的训练集群规模巨大。例如，GPT-4的分布式训练在约**25,000个GPU**上进行，每小时产生高达**400TB**的网络流量。其正在建设的"**星际之门（Stargate）**"超算项目，目标在2029年部署**10GW**的AI算力，首期已在得州阿比林（Abilene）部署了超过**10万块GPU**用于训练GPT-6 Astra。
* **网络协议MRC**：为解决大规模GPU集群的通信瓶颈，OpenAI联合AMD、NVIDIA等巨头推出了**多路径可靠连接（MRC）** 协议。该协议将单条800Gb/s接口拆分为8条100Gb/s的并行子链路，连接到独立交换机，形成**8个并行的网络平面**，仅需**两层交换机**即可连接约**13.1万块GPU**，大幅提升了网络的可靠性和效率。
存储与数据平台
* **Habitat在线存储平台**：OpenAI自建的**Habitat**是其产品的"数据交通中心"，每秒处理超过**7000万次请求**，管理超过**500PB**的数据，横跨近**40个地理区域**。它负责schema查找、路由、授权、加密等，让产品工程师无需直接管理底层数据库。
* **PostgreSQL与Cosmos DB**：OpenAI使用**单一PostgreSQL主库**（部署于Azure）和约**50个只读副本**，支撑了8亿ChatGPT用户，p99延迟仅**10-19毫秒**。对于写入负载极高的数据，则被移至**Azure Cosmos DB**等分片系统。
* **从Python到Rust的演进**：Habitat最初用Python开发以快速迭代，但随着规模增长，其面临CPU、内存和网络延迟挑战。2026年，OpenAI用**Rust重写**了Habitat服务，新服务处理了**95%** 的生产请求，**CPU效率提升6倍，内存效率提升15倍**。
📚 数据层：从数据采集到模型训练的工业化流水线
数据来源与构成
ChatGPT的训练数据主要来自三大来源：
* **公开可获取的互联网信息**：如**Common Crawl**（覆盖数百亿网页）、Wikipedia、Books等。
* **第三方许可数据**：通过与News Corp、Reddit、Stack Overflow、Shutterstock等机构合作获取的授权内容。
* **用户与人工标注数据**：在研发与对齐阶段，由用户、人类训练师和研究者提供或生成的数据。
GPT-4的训练数据集包含约**13万亿个tokens**，其中代码数据经过了**4轮epoch**的训练。
数据管道与平台
OpenAI构建了一个**统一的数据湖**，管理着超过**600PB**的数据和约**7万个数据集**，服务于超过**3500名**内部用户。其数据平台的核心组件包括：
* **实时流处理**：基于**Apache Kafka**处理高速事件流，并通过**Apache Flink**构建的**StreamLink**平台，以超过**100 GiB/s**的速度将数据摄入Delta Lake和Iceberg表。
* **数据处理与编排**：使用**Apache Spark**进行分布式数据处理，并协调跨系统的数千个工作流。
* **AI代理自动化运维**：OpenAI已将**Codex驱动的AI代理**嵌入数据平台，实现自主运维。这些代理能实时监控管道，在出现故障或模式漂移时自动诊断、重启作业甚至生成修复方案。
💎 总结
ChatGPT的基础设施与数据层是一个为超大规模AI训练和服务量身打造的精密系统。其核心设计理念包括：
* **极致的规模与性能**：从数万GPU集群到每秒数千万请求的存储平台，规模驱动了所有技术选型。
* **务实的技术选型**：不盲目追求分布式，而是根据场景选择最合适的工具（如单一PostgreSQL主库、Rust重写Habitat），以解决实际瓶颈。
* **高度的自动化**：通过AI代理实现数据平台的自我运维，将工程师从繁琐的日常操作中解放出来。
* **统一的数据基座**：构建统一数据湖，为训练、安全、产品分析等所有上层应用提供一致、可信的数据视图。