10月17日 - 20日,第二十二届 CCF 全国高性能计算学术大会(CCF HPC China 2026)在深圳国际会展中心举办。本届大会以"超智深融 算力圳浓"为主题,汇聚 20 余位院士及顶尖学者,设置 40 余场深度主题论坛。泛联携全套 AI 存储产品与超智融合解决方案亮相参展,并在第六届超大规模高性能计算机系统研制关键技术论坛上发表主题演讲------《训推场景下存储架构的创新探索》。

大模型时代,存储面临什么挑战?
大模型训练与推理的爆发,正在重塑存储系统的工作负荷。泛联架构师齐泽青指出,存储系统将迎来以下关键趋势:
-
工作负载从围绕 CPU 为主的应用转向支持 GPU/CPU/DPU 分立协同的大模型 Agent 运行环境。
-
GDS/GDR(GPU Direct Storage / GPU Direct RDMA)已成为新标准,KV Cache 成为整个推理生态的标配,读得快等于为科研创造更多价值。
-
对时延和 IOPS 的需求到达新高度。
-
Agentic FS 等新范式持续演进。
当前业界主流的 KV Cache 分层架构 (G1 GPU HBM → G2 System DRAM → G3 Local SSD → G3.5 Context Memory Storage → G4 Shared Object/File)在落地时面临一个现实问题:G3、G3.5、G4 三层不同硬件、不同网络配置、不同时延要求,意味着三套系统、三套维护、重复采购。
"是否真的需要两套硬件、维护三套系统?"这是泛联在演讲中抛出的核心问题。
一机多模,训推一体,多层归一
针对上述痛点,泛联提出了"一机多模,多层归一"架构思路:通过 UbiPower 18000 分布式全闪存储,将传统 G3(本地 SSD)、G3.5(Pod 级共享存储)、G4(共享对象/文件层)合并为一套存储池,向上同时提供 KV Cache 缓存存储与共享存储层能力。

这不是简单的硬件堆叠,而是架构层面的系统性创新:

在 KV Cache 专项优化上,UbiPower 18000 做了三件事:
内存写整合,EC 性能无损------KV Cache 从 HBM 淘汰至 DRAM 后,在 DRAM 完成 IO 整合与 EC 计算,异步写入存储后端,GPU 计算时间完全可掩盖存储时延;
精细的并发控制------按 chunk size 切分,基于哈希打散到不同节点不同盘组,充分利用现代 CPU/GPU 并发能力;
metadata-less KV,POSIX 语义 bypass------绕过复杂 POSIX 元数据操作,采用 GPU Direct RDMA 接口,只暴露必需的元数据,进一步降低时延。
性能说话:权威测试验证架构价值
架构创新最终要靠数据验证。演讲中公布了两组权威测试结果:
MLPerf Storage 3.0(2026年发布)
- 这是 MLCommons 联合全球头部存储厂商制定的 AI 存储性能基准,今年全新增加了 KV Cache 推理卸载专项测试,填补了推理缓存卸载场景标准化评测的空白。
- 泛联连续两年参加 MLPerf 测试,Storage 2.0 获7项世界第一 ,Storage 3.0一举拿下 8 项场景第一、15 个指标第一,实现 AI 训练、推理全场景性能领跑。
- 在 Llama3-450B、Llama3-1250B 两项 Checkpoint 测试中,写入与读取带宽双双第一;模型参数越大、Checkpoint 数据量越庞大,泛联的分布式全闪架构带宽优势越明显。
ODCC KV Cache 大模型推理场景测试
- 基于 DeepSeek-R1、Qwen3-235B 等大模型,在 Prefill-Only、PD(Prefill-Decode)一体及分离场景下验证。
- 测试结果显示:使用泛联 UbiPower 18000 作为 KV Cache 卸载,可获得 TTFT(首 Token 时延)最高 98% 的降低,65 倍 TPS(每秒 Token 并发数)提升。
- 拓扑感知的 GPU Direct RDMA 将时延进一步压缩。
- 在"两层归一"的对比测试中,优化后的 G4(泛联远端存储)对 KV Cache 的支持大幅领先传统 G3(本地 SSD RAID 0): TTFT 平均降低约 55%, TPS 平均提升 1.5---2.5 倍。
关于泛联
泛联(UBIX)成立于 2021 年,是一家专注于创新存储产品及解决方案的高科技企业,已获"专精特新"等企业认证。公司通过在介质应用、系统架构、软件实现上的创新,研发了具有自主知识产权的高性能分布式文件系统 UbiXFS,并推出了 UbiPower 系列分布式全闪存存储、UbiScale 系列分布式海量存储、UbiCache 系列推理加速存储、UbiCube 系列 MaaS 服务一体机等覆盖超算、智算全场景的产品和解决方案。
如果您正在关注大模型训推场景下的存储架构选型,欢迎交流,一起探讨"一机多模"如何为您的智算中心降本增效。