AMD已经公布Helios机架级AI系统的完整架构。这套系统由72颗AMD Instinct MI455X GPU、第六代EPYC"Venice"CPU、Pensando网络组件、UALink over Ethernet互联和ROCm软件栈组成，面向大规模AI训练、分布式推理与高密度AI基础设施。
Helios曾在Advancing AI 2025进行预览，随后以实物形式出现在OCP和Computex相关展示中。AMD目前已经向OEM、ODM伙伴开放参考设计，预计相关系统在2026年下半年进入规模部署。
一、Helios产品定位与机架组成
AMD将Helios定义为首个机架级AI参考设计。它基于Meta提交给开放计算项目OCP的Open Rack Wide（ORW）标准，不是AMD直接销售的标准整机，而是供服务器OEM、ODM厂商完成产品化和交付的设计蓝图。
按照AMD官方页面，单个Helios计算托盘配置4颗MI455X GPU，并配套一颗EPYC Venice CPU、Pensando AI NIC、Infinity Fabric和DPU。
本次披露的实物结构包括18个计算托盘和6个交换托盘。18个计算托盘合计配置72颗MI455X和18颗EPYC Venice，整套系统采用液冷和双宽ORW机架。
二、AMD Helios核心规格
|-------------|-------------------------------------|
| 项目 | 公开规格 |
| GPU数量 | 72颗AMD Instinct MI455X |
| GPU架构 | AMD CDNA 5 |
| 单GPU显存 | 最高432GB HBM4 |
| 单GPU显存带宽 | 最高19.6TB/s |
| 机架总显存 | 约31TB HBM4 |
| 聚合显存带宽 | 约1.4PB/s |
| 机架峰值算力 | 最高2.9 EFLOPS FP4、1.4 EFLOPS FP8 |
| Scale-up带宽 | 260TB/s |
| Scale-out带宽 | 最高43TB/s |
| 主机CPU | 18颗第六代AMD EPYC"Venice" |
| 单CPU规格 | Zen 6架构，最高256核心、最高1.6TB/s内存带宽 |
| Scale-up技术 | UALink over Ethernet（UALoE） |
| AI网络 | AMD Pensando"Vulcano"800Gbps AI NIC |
| DPU | AMD Pensando Salina |
| 机架形态 | OCP Open Rack Wide双宽机架、液冷 |
| 软件栈 | AMD ROCm |
表中GPU数量、显存、带宽和峰值算力来自AMD官方资料；18个计算托盘、6个交换托盘及18颗CPU来自媒体披露的展示系统结构。最终OEM、ODM产品可能根据具体设计调整。
三、MI455X：CDNA 5与432GB HBM4
MI455X属于AMD Instinct MI400系列，采用CDNA 5架构，是Helios的主要AI加速器。
每颗MI455X最高配置432GB HBM4，峰值显存带宽最高19.6TB/s，并提供最高40PFLOPS FP4计算能力。72颗GPU合计提供约31TB HBM4和约1.4PB/s聚合显存带宽。
Helios整机最高可提供2.9 EFLOPS FP4和1.4 EFLOPS FP8峰值算力。AMD在官方资料中同时列出OCP和MX数据类型支持，具体应用性能仍取决于模型精度、稀疏性、批量大小、并行策略和软件优化。
AMD Instinct近四代产品参数演进
|-----------------|--------|----------|------------|------------|
| 产品 | 架构 | 显存类型 | 单GPU显存 | 峰值显存带宽 |
| Instinct MI300X | CDNA 3 | HBM3 | 192GB | 5.3TB/s |
| Instinct MI325X | CDNA 3 | HBM3E | 256GB | 6TB/s |
| Instinct MI355X | CDNA 4 | HBM3E | 288GB | 8TB/s |
| Instinct MI455X | CDNA 5 | HBM4 | 432GB | 19.6TB/s |
从MI300X到MI455X，AMD单GPU显存由192GB提高到432GB，峰值带宽由5.3TB/s提高到19.6TB/s。
其中，MI325X主要升级到256GB HBM3E；MI355X进入CDNA 4，并将带宽提高到8TB/s；MI455X升级到CDNA 5和HBM4，容量较MI355X增加50%，带宽约为MI355X的2.45倍。
更大的显存主要用于容纳模型权重、激活值、优化器状态、KV Cache和通信缓冲区。但Helios的31TB是72颗GPU显存的合计值，并不是一块可以由单任务直接连续访问的统一显存。跨GPU任务仍需依赖张量并行、流水线并行、数据并行或专家并行。
四、EPYC Venice：Helios主机处理器
Helios采用第六代AMD EPYC"Venice"CPU，基于Zen 6架构。AMD当前公开的单CPU规格包括最高256个高性能核心和最高1.6TB/s内存带宽。
按照展示系统的18个计算托盘计算，一套Helios配置18颗EPYC Venice，每颗CPU对应4颗MI455X。
EPYC Venice主要承担以下任务：
- 数据预处理和CPU侧计算；
- GPU任务提交与进程调度；
- 网络、存储和系统I/O协调；
- 分布式训练与推理进程管理；
- Agent环境及部分非GPU工作负载。
Infinity Fabric负责计算托盘内CPU与GPU之间的高性能通信。CPU、内存和I/O能力需要与四颗GPU的处理规模匹配，避免数据准备和调度成为系统瓶颈。
五、UALoE：Helios机架内Scale-up互联
Helios通过UALink over Ethernet，也就是UALoE构建机架内Scale-up网络。
AMD官方页面显示，Helios配置4个Scale-up Cartridge，用于连接最多72颗MI455X，聚合Scale-up带宽为260TB/s。该网络主要承担GPU之间的集合通信、参数同步和并行计算数据交换。
UALink是一套面向AI加速器Scale-up互联的开放标准。Helios采用基于以太网的实现方式，使GPU互联与开放网络生态结合，但具体时延、集合通信效率和故障处理能力仍需要在最终系统中验证。
六、Vulcano AI NIC、Salina DPU与Scale-out网络
Helios使用AMD Pensando"Vulcano"800 AI NIC构建Scale-out网络。单个AI NIC提供800Gbps以太网吞吐，采用PCIe Gen 6接口，并支持面向Ultra Ethernet的RDMA能力。
AMD公布的Helios机架Scale-out总带宽最高为43TB/s，用于连接多个Helios机架、存储系统和外部数据中心网络。
Salina DPU配备16个Arm N1核心，支持P4可编程与线速数据处理，主要卸载网络、存储和安全任务。通过DPU卸载，主机CPU可以减少处理基础设施服务的开销。
Helios由此形成三层数据通道：
- 计算托盘内部：Infinity Fabric连接CPU与GPU；
- 机架内部：UALoE连接72颗GPU；
- 机架外部：Vulcano AI NIC和Ultra Ethernet承担Scale-out。
七、ORW双宽机架、供电与液冷
Helios基于OCP Open Rack Wide双宽机架设计。相比传统单宽通用机柜，ORW为高密度AI计算提供更宽的托盘空间，并围绕高功率供电、液冷管路和模块化维护进行设计。
AMD官方公布的机架组件包括：
- Power Shelf：通过垂直母排集中管理并分配机架电力；
- Cooling Manifold：通过快接接口向计算和交换托盘分配冷却液；
- 模块化计算托盘：集成供电、液冷和网络接口，支持快速更换；
- 安全模块：支持硬件信任根、持续证明、设备身份、加密内存与互联；
- 维护设计：更换托盘时可减少重新布线和重新连接液冷管路的工作。
据CNBC现场资料称，展示系统重量约5000磅，运行功耗约225～245kW，整套成本约500万～550万美元。这些数字属于媒体对展示系统的描述，不是AMD对所有合作伙伴产品给出的统一功耗和售价。
八、ROCm软件栈与框架支持
Helios由AMD ROCm软件栈支撑。AMD官方页面列出的生态包括：
- PyTorch、TensorFlow、JAX；
- ONNX Runtime；
- vLLM、Triton、SGLang；
- DeepSpeed、llm-d；
- OpenXLA、MLIR；
- Hugging Face和Llama Stack。
对于72卡机架级系统，软件层还需要完成驱动、通信库、算子、编译器、容器、调度、监控和故障恢复适配。峰值硬件规格不能直接代表具体模型的实际训练速度或推理吞吐。
AMD官方表示，Helios参考设计目前已经向合作伙伴开放，基于该设计的系统预计在2026年下半年进入规模部署。
九、Helios与Vera Rubin NVL72公开规格对比
|-------------|---------------------------|-------------------------------------|
| 对比项目 | AMD Helios | NVIDIA Vera Rubin NVL72 |
| GPU数量 | 72颗MI455X | 72颗Rubin GPU |
| CPU数量 | 18颗EPYC Venice | 36颗Vera CPU |
| 单GPU显存 | 最高432GB HBM4 | 最高288GB HBM4 |
| 机架GPU显存 | 约31TB | 约20.7TB |
| 单GPU显存带宽 | 最高19.6TB/s | 最高22TB/s |
| Scale-up带宽 | 260TB/s | 260TB/s |
| Scale-up互联 | UALink over Ethernet | NVLink 6 |
| Scale-out带宽 | 最高43TB/s | 最高28.8TB/s |
| Scale-out组件 | Vulcano AI NIC、Salina DPU | ConnectX-9 SuperNIC、BlueField-4 DPU |
| 软件生态 | ROCm | CUDA及NVIDIA AI软件体系 |
| 机架路线 | OCP ORW与开放标准 | MGX与软硬件联合设计 |
NVIDIA官方注明，Vera Rubin NVL72当前公开参数为初步信息，数值均为最高值且可能调整。
两套系统的FP4、FP8算力还涉及OCP FP4、MXFP4、NVFP4、稀疏性和计算条件差异。因此，上表只用于对照系统组成、显存、带宽和技术路线，不用于判断实际性能高低。
十、Helios的技术重点
从公开规格看，Helios的产品变化主要集中在三个方面。
第一，MI455X采用432GB HBM4，将机架总显存提高到约31TB，服务于大模型容量、长上下文和大规模分布式任务。
第二，系统使用UALoE、Vulcano AI NIC和Salina DPU分别处理机架内互联、机架间扩展和基础设施卸载，网络从配套组件变成机架架构的一部分。
第三，AMD将EPYC、Instinct、Pensando、ROCm与OCP ORW统一到一个参考设计中，为OEM、ODM提供完整的产品化路径。
Helios当前公布的主要是参考设计和峰值规格。后续仍需要结合OEM整机、ROCm版本、模型框架、通信效率和真实负载测试，判断系统能够持续提供的训练与推理性能。
赋创可结合模型规模、吞吐目标、并行方式和部署环境，评估单机多卡、八卡节点及多节点集群的配置边界，并围绕GPU、CPU、内存、网络、存储、供电散热和软件栈完成系统方案梳理。
FAQ
1. AMD Helios是可以直接采购的标准整机吗？
不是。Helios是AMD提供给OEM、ODM合作伙伴的机架级参考设计，具体产品由合作伙伴完成制造、验证和交付。
2. Helios为什么使用18颗CPU？
展示系统包含18个计算托盘，每个托盘配置一颗EPYC Venice和4颗MI455X，因此合计为18颗CPU和72颗GPU。
3. 31TB HBM4能否作为连续显存使用？
不能。31TB是72颗MI455X显存的总和，模型仍需通过张量并行、流水线并行或专家并行分布到不同GPU。
4. Helios何时进入实际部署？
AMD官方预计，基于Helios参考设计的系统将在2026年下半年进入规模部署阶段，具体时间取决于合作伙伴产品与客户项目。