超节点

张星河zen2 小时前
华为·ai训练·ai推理·超节点·npo·昇腾960·hi-one
4096卡、8EFLOPS、7.2T NPO:华为昇腾960超节点详解9月17日,华为全联接大会2026在上海举办。华为副董事长、轮值董事长汪涛正式发布昇腾960超节点。以下是关于昇腾960超节点的几个关键数字:全球首个采用NPO近封装光学技术的超节点,单节点4096张算力卡,FP8峰值算力8 EFLOPS,FP4算力16 EFLOPS,1PB HBM内存容量。5500个Hi-ONE光引擎替代传统方案所需的4.8万颗800G光模块,整体功耗降低超过550千瓦,系统可用度99.8%。液冷版本计划2027年第三季度上市。
百度智能云技术站3 天前
模型训练·模型推理·ai infra·超节点·agent infra
《百度天池超节点系统架构设计规范》正式开放下载从机柜结构到供电散热,从高速互联到智能管理,《百度天池超节点系统架构设计规范》完整记录了百度天池超节点经过大规模实践验证的设计细节与系统取舍,以标准化、可复用的方式,为超节点走向普及提供设计依据。
Eloudy19 天前
gpu·fabric·超节点
全文 - 第1部分 - NVIDIA Fabric Manager User Guide原文随着深度学习神经网络变得越来越复杂,其规模和复杂度持续膨胀,导致在合理时间内训练这些网络所需的算力呈指数级增长。为应对这一挑战,应用已转向多 GPU 实现。
Eloudy19 天前
gpu·eda·超节点
全文 - Scale-up fabrics随着 AI 工作负载扩展到数千个加速器,机架级系统的互连结构(也称 scale-up 互连结构)正受到高度关注。2025 年,多项重大进展正在重塑 scale-up 互连的格局。
openFuyao3 个月前
容器·kubernetes·ai原生·openfuyao·多样化算力·超节点·集群软件
openFuyao使能灵衢超节点::让容器业务丝滑释放节点能力在AI算力规模持续扩展的背景下,灵衢超节点(UB)通过共享内存、内存借用、URMA高速通信等机制,重构了计算节点内外的数据交互范式。然而,K8s原生资源模型仍以单节点为边界,缺乏对超节点总线架构及新型编程模型的原生支持,无法直接释放UB在性能与效率上的优势。
Tassel_YUE4 个月前
人工智能·数据中心·超节点
超节点技术深度篇五:长上下文推理与 KV Cache 池化:从显存压力到 PD 分离调度本文基于以下三份报告进行汇总、解释和二次整理:前几篇更多讨论训练:Scale-Up、统一内存、并行通信和 MoE。这一篇转到推理,但不要把推理理解成“模型部署简单版”。
Tassel_YUE4 个月前
网络·人工智能·数据中心·超节点
超节点技术深度篇三:大模型并行通信拆解:DP、TP、PP、EP、CP 到底在网络里发生了什么本文基于以下三份报告进行汇总、解释和二次整理:这篇文章从训练系统视角拆通信路径。大模型并行通信 的意思是:当一个模型、一个 batch 或一段上下文被拆到多张 GPU/NPU 上执行时,这些设备之间为了保持计算结果一致、传递中间状态、同步参数或交换 token 而产生的数据流。
百度智能云技术站4 个月前
百度百舸·国产算力·超节点·vllm-kunlun·智算运维
国产 AI Infra 规模化落地实践:软硬协同与极致加速本文整理自 2026 年 5 月 14 日 Create2026 百度 AI 开发者大会 - AI Infra 专题论坛,百度智能云混合云部总经理杜海的同名主题演讲。
Tassel_YUE4 个月前
人工智能·数据中心·超节点
技术深度篇二:超节点里的统一内存编址:从 RDMA、DMA 到 Load/Store 语义本文基于以下三份报告进行汇总、解释和二次整理:上一篇讨论了 Scale-Up 和 HBD,重点是把高频通信留在更高带宽、更低时延的域内。这一篇继续往下拆:当设备已经连得足够近,下一步要解决的是“数据如何被访问”。
Tassel_YUE4 个月前
人工智能·数据中心·超节点
超节点文章 4:MoE、长上下文与智能体:哪些 AI 负载最需要超节点?本文基于以下三份报告进行汇总、解释和二次整理:前三篇文章里,我们已经把超节点的基本概念、Scale-Up 架构和核心技术讲了一遍。
陆嵩7 个月前
学习·算法·amd·重排·超节点·supernadal·消去树
从一个小例子学习方程组求解超节点(supernodal)算法以 Cholesky 分解超节点方法举例说明,LULULU 和 LDLTLDL^TLDLT 类似。考虑对称正定(SPD)线性方程组求解问题 x=b,A=AT,A≻0 x=b, \quad A=A^T, A \succ 0 x=b,A=AT,A≻0 Cholesky 分解法求解方程步骤分两段:
我是有底线的