大模型时代存储市场复盘 2024-2026：AI 训推爆发下的存储需求变革

一、引言：为什么大模型时代存储要"重新做一遍"

2024 年之前，云上"存储"三个字，在多数架构评审会上是垫底的话题。价格年年降、可用性年年升、容量随手扩，工程师最多在冷热分层上抠一抠账单。2024 年生成式 AI 爆发之后，这套惯性彻底崩了。

一次千亿参数模型的训练，checkpoint 可以是 TB 甚至 PB 级；一次多模态推理，KV-Cache 落盘的吞吐能把 SSD 打到满速；RAG 系统上线，向量库的存储 + 查询账单一个月就顶得上过去一年的对象存储支出。存储从"算力配套资源"被拉回到"决定 AI 系统性能与成本上限的核心基础设施" ------这句话不是自媒体标题，是国信证券 2026 年 6 月《AI 推理需求重塑存储范式》研报里的原文（国信证券研报）。

数字更直接。根据 IDC 数据，全球 DRAM 营收在 2025 年突破 1500 亿美元后，2026 年市场有望增至 5607 亿美元以上，同比增长 272%；NAND 营收也有望从 2025 年的 671 亿美元增至 2026 年的 2890 亿美元，同比增长 331%（国信证券整理 IDC 数据）。这不是常规的存储周期涨价，是 AI 直接把整个存储产业链撬到了新的量级。

企业外部存储的曲线也在拐弯。据 IDC《Worldwide Quarterly Enterprise Storage Systems Tracker》，2026 年一季度全球企业外部存储市场收入达到 92 亿美元，同比增长 22.7%，其中全闪存阵列首次跨过 50% 收入占比门槛，达到 49 亿美元、同比 +32.7%；高端存储系统（ASP 高于 25 万美元）同比暴涨 60.7%，几乎全部由大规模 AI 基础设施部署驱动（IDC 官方公告）。

延续本系列 26 号国产大模型价格战、27 号 API 稳定性红黑榜的复盘风格，这一篇把镜头切到"底盘"：AI 训推爆发的这两年，云上存储究竟发生了什么？训练、推理、RAG、多模态、归档五档场景，成本账应该怎么算？以点点词元这样的多模型统一调度平台为例，Token 调度侧到底要不要自己囤存储？

二、需求侧：训推工作流的存储访问模式

要看懂这一轮存储涨价，先看懂 AI 到底怎么"用"存储。

2.1 训练 checkpoint：吞吐密集 + 冷热分层

千亿参数模型一次全量 checkpoint 可以到几百 GB 到 TB 级。训练框架通常按 step 或按 epoch 落盘，落盘的瞬间是典型的写放大：几十上百块 GPU 同时向存储层灌，吞吐动辄数十 GB/s。落盘之后又是典型的冷数据------大多数 checkpoint 只会被读一次（恢复用），甚至完全不会被读。

这就催生了对训练存储的两个矛盾要求：峰值写入必须够快，稳态存储必须够便宜 。答案是"分层"：热层放高速本地 NVMe / 并行文件系统，冷层放对象存储的归档 / 深度归档层。IDC 也在 1Q26 报告里指出，"全闪存平台针对 GPU-to-storage 带宽需求的产品是增速最快的品类之一"（IDC 报告）。

2.2 KV-Cache 落盘：延迟敏感 + 长尾频繁

推理侧的存储压力，更多来自 KV-Cache。长上下文推理里，一个 128k token 的 session 光 KV-Cache 就可能占用几个 GB 显存。为了在多用户之间复用会话，系统会把不活跃的 KV-Cache 从 HBM 迁到 DRAM，再从 DRAM 溢出到本地 SSD，最极端会溢出到对象存储做长期保留。

这条链路对延迟极度敏感------用户重新发消息时，如果 KV-Cache 命中冷层，就要多花 100ms 以上把它加载回 HBM。国信证券研报里点出："为了打破 AI 海量数据与有限显存之间的'内存墙'，企业级 SSD 加速对传统机械硬盘的替代，同时催生出高带宽闪存（HBF）充当 GPU 的'高速硬缓存层'"（国信证券研报）。HBF 这个概念在 2026 年才正式成型，本质就是回答 KV-Cache 溢出场景。

2.3 向量库 + embedding cache：查询密集 + 相似度检索

RAG 上线之后，向量库成了新的"数据库层"。一个中型企业知识库动辄 1000 万 - 1 亿条向量，1024 维 float32 就是 40GB - 400GB 存储，还要建 HNSW / IVF 索引。查询侧压力更大：每一次用户提问都要做一次 top-k 检索，QPS 上千很正常。

据 QYResearch《2026 全球及中国 AI 向量数据库行业调研报告》，2025 年全球 AI 向量数据库市场规模约 27.65 亿美元，预计到 2032 年将接近 124.29 亿美元，六年 CAGR 23.5%（格隆汇转载 QYResearch）。另一份 CRM Curator 2026 年 4 月的市场追踪，则把 2026 年全球向量数据库市场直接定在 37.3 亿美元、23.5% 年增（CRM Curator）。两个数据源交叉验证------向量库是"增速最快的 AI 基础设施细分赛道"，没有之一。

2.4 回放数据 + 多模态原始数据：海量归档

训练回放集、SFT 语料、RLHF 偏好对、多模态原始视频音频------这一类是典型的"写一次读几次然后长期归档"。企业级存储越来越依赖低成本近线 HDD 承载这部分数据，摩根士丹利 2026 年 6 月亚洲调研数据显示，2026 年全球 HDD 供需缺口约 300 EB（占供给 10%-15%），2027-2028 年缺口扩至 400 EB/年，短缺至少延续至 2028 年（东方财富财富号整理摩根士丹利数据）。

三、供给侧：云厂商产品线与硬件市场 2024→2026 走势

3.1 云厂商对象存储 / 文件存储 / 块存储 / 向量库产品线

主流五朵云到 2026 年，AI 相关存储产品线已经站队清晰：

阿里云：OSS（对象）+ NAS / CPFS（文件 / 并行文件）+ ESSD（块）+ 内嵌向量能力的 AnalyticDB / Lindorm。
腾讯云：COS（对象）+ CFS（文件）+ CBS（块）+ VectorDB。
火山引擎：TOS（对象）+ vePFS（并行文件）+ ESSD + veVectorDB。
AWS：S3 全套（Standard / IA / Glacier 三系列 + 新的 S3 Tables）+ FSx（并行文件）+ EBS + OpenSearch Vector / Kendra。
GCP：GCS + Filestore + Persistent Disk + Vertex AI Vector Search。

对比过去两三年的动作有两个明显趋势。一是每一家都在补 GPU 直连的并行文件系统 ，比如阿里 CPFS、火山 vePFS、AWS FSx for Lustre，AI 训练要求百 GB/s 级聚合带宽，普通 NAS 撑不住。二是每一家都把向量能力当成一等公民，要么内嵌到主库（阿里 AnalyticDB、AWS OpenSearch），要么专门起独立产品线（腾讯 VectorDB、火山 veVectorDB）。

3.2 硬件市场：HBM / SSD / HDD 三重超级周期

存储硬件端的行情比云产品端更烈。据国信证券 2026 年 6 月研报，2026 年服务器 DRAM 占比预计将超过 50%，服务器 NAND Bit 需求预计大增超 60% 并首次成为最大应用------历史上手机一直是存储需求的主导侧，AI 服务器在 2026 年正式接过接力棒（国信证券研报）。

HBM 更极端。据东方财富财富号 2026 年 6 月整合的 IDC / TrendForce / 中金数据，HBM 2025 年市场规模 380 亿美元，2035 年有望突破 1200 亿美元，十年 CAGR 超 12%（东方财富财富号）。HBM 单位晶圆消耗是常规 DRAM 的 2-3 倍，原厂把有限的晶圆产能全力向 HBM 倾斜，这也是常规 DDR、消费级 SSD 从 2025 下半年开始持续涨价的根源。

HDD 侧，希捷、西部数据、东芝一致放弃绿地新建产能，2026-2028 年 HDD 容量供给增速仅 30%-35%，显著低于 40%-50% 的需求增速。中长期靠 HAMR 热辅助磁记录技术密度迭代，认证周期 10 年，寡头格局 2035 年前无法打破（东方财富财富号整理摩根士丹利数据）。这就是为什么全闪存阵列在 IDC 1Q26 数据里首次跨过 50% 门槛------不是全闪存变便宜了，是 HDD 供不上货了。

从整体市场看：全球整体存储市场，2025 年规模约 4000 亿美元，2030 年 7600 亿美元，2035 年突破 1.3 万亿美元，十年 CAGR 13.8%。国内独立增量方面，CCID 数据显示 2024 年中国企业级存储市场 3445 亿元，2026 年突破 4350 亿元，2030 年国内存储整体市场规模突破 8000 亿元（东方财富财富号整理 CCID 数据）。

四、价格战：主流对象存储三年 GB 单价对比

进入具体价格。对象存储四大计费项：存储 GB 单价、请求单价、出流量单价、冷热分层单价。这里聚焦最关键的存储 GB 单价，2026 年当前刊例：

厂商	标准（热）	低频（温）	归档（冷）	深度归档
阿里云 OSS（中国大陆）	0.09 元/GB/月	0.07 元/GB/月	0.03 元/GB/月	涉及
阿里云 OSS（海外，本地冗余）	US$0.0173/GB/月	US$0.00935/GB/月	US$0.005/GB/月	---
腾讯云 COS（中国大陆）	0.08 元起/GB/月	0.043 元起/GB/月	0.03 元起/GB/月	0.01 元起/GB/月
AWS S3（US East）	$0.023/GB/月（前 50TB）	$0.0125/GB/月	$0.004/GB/月（IR）	$0.00099/GB/月

数据来源：阿里云 OSS 定价页、阿里云开发者社区 OSS 收费标准、腾讯云 COS 定价页、AWS S3 官方定价。

三个观察：

观察 1：中国云厂商标准存储单价约 0.08-0.09 元/GB/月，折美元约 $0.012-0.013，明显低于 AWS S3 Standard 的$ 0.023，主要是网络出流量的定价差异抹掉了。中国大陆内网访问免费，把"存储 + 内部访问"的复合成本压得很低；AWS 内网免费但跨可用区仍要钱。

观察 2：深度归档卷进 1 分钱 / GB / 月 。腾讯云 COS 深度归档 0.01 元/GB/月，AWS S3 Glacier Deep Archive $0.00099/GB/月（AWS S3 Pricing），基本贴地价。回放数据 / 长期归档语料这一类冷数据，2026 年靠深归档已经能压到"忽略不计"的量级。

观察 3：Serverless 计费模式开始占领向量库赛道 。据 CRM Curator 2026 年 4 月 Vector Database Market 报告，Pinecone Serverless 2026 年定价约每百万读单元 $0.33、存储约$ 0.33/GB/月，Qdrant Cloud、Weaviate Cloud 与之接近（CRM Curator）。请注意：向量库的存储单价比对象存储高一个数量级------Pinecone $0.33/GB/月 vs 阿里 OSS$ 0.017/GB/月------这是"数据库单价"与"对象存储单价"的本质差异，因为向量库为你保留了索引结构、查询能力和低延迟保障。

五、场景与选型：五档场景成本推演

结合硬件涨价 + 云侧刊例价，五档 AI 场景 2026 年的成本推演如下：

场景 1：训练 checkpoint 归档（1 家中型 AI 公司，年产 100 TB checkpoint）

全部走对象存储归档层：100 TB × 0.03 元/GB/月 = 3072 元/月 ≈ 3.7 万元/年。
相比放本地 NVMe（保守估计 0.5 元/GB/月），一年省下 51 万元。归档层是训练数据保留的绝对首选。

场景 2：推理 KV-Cache 三层调度（推理并发 1000，日活会话 100 万）

HBM 热层：只保留 top 10% 活跃会话 KV-Cache，成本包含在 GPU 显存里，不单算。
本地 NVMe 温层：容纳中间 30% 会话 ≈ 5 TB，NVMe 折算 0.15 元/GB/月，月成本 750 元。
对象存储冷层：冷数据 60% ≈ 10 TB，低频存储 0.07 元/GB/月，月成本 720 元。
关键：温层每 GB 成本 ≈ 冷层 2 倍，冷层每 GB 成本 ≈ 归档 2.3 倍------这是本文代码段 1 KV-Cache 分层调度策略要解决的核心问题。

场景 3：RAG 向量库（企业知识库 1 亿条向量、1024 维）

存储用量 ≈ 400 GB（含索引），Pinecone Serverless 月成本约 $132 ≈ 950 元。
查询侧，若日均 5 万次查询、月 150 万次，读单元约 100 万 × $0.33 =$ 33/月。
换到自建 Milvus，需服务器成本 + 运维人力，参照 CSDN 上一份 2026 年 7 月 Spring AI 选型报告（CSDN 选型报告），月度综合成本约 7500 元。全托管方案比自建低 87%------但仅在中小规模下成立，规模上到 10 亿向量后曲线反转。

场景 4：多模态原始数据（10 PB 视频语料）

全部走深度归档：10 × 1024 TB × 1024 GB × 0.01 元 = 104857 元/月 ≈ 105 万元/年。
换 HDD 私有部署，硬件采购加运维保守估计 300-400 万元/年（含替换损耗），云侧深归档是绝对性价比之选。

场景 5：长期归档合规数据（金融 / 医疗，30 年保留）

深度归档 0.01 元/GB/月 × 30 年 × 12 月 = 3.6 元/GB。若数据量 100 TB，30 年总成本约 37.7 万元。合规存储一次算清账，非常清晰。

六、点点词元视角：为什么 Token 调度平台不用自己囤存储

上面五档账推完，回到本系列的一个持续思考------Token 调度平台该怎么摆放自己在存储链路上的位置？

点点词元的定位是多模型统一调度平台，走 OpenAI 兼容协议、Anthropic 兼容协议，把主流模型的 API 通过一层薄网关暴露给终端用户。存储侧，理论上有几个选项：

自建对象存储 + 向量库：完整承接用户历史对话、RAG 语料、多模态资产。
透传官方模型端存储：用户的 Prompt Cache、KV-Cache、Batch 结果都留在模型厂商侧。
混合：轻量元数据（会话索引、账单流水）自留，重资产透传。

答案在实际账单里已经写清楚了。以一个中等体量的调度平台为例，月活 100 万、日均 500 万次调用、单会话平均 20 轮：

如果自建 KV-Cache 冷热分层，即便按场景 2 的推算，光冷层就要 10-20 TB，加上多副本、跨可用区容灾、快照，实际支出会翻 2-3 倍。
如果透传官方，官方的 Prompt Cache 命中在其内部实现，调度平台只需要保留很轻的会话摘要和账单流水------一个中型对象存储 bucket 一年不到 5 千元就能覆盖。

结论直接：点点词元这类调度平台，官方直充路线在存储侧天然轻资产。这不是省不省钱的问题，是整条价值链上把重资产环节让给最擅长的一方。模型厂商在 HBM 上花的钱，用户按 Token 用量分摊；调度平台只赚"多模型可选 + 统一协议 + 用量透明"的调度价值。存储那一层的重资产曲线，不是这类平台该踩的。

七、代码段拆解：GitHub 配套源码

三段实测代码放在 chapters/chapter-29-llm-storage-market-2024-2026/src/，配 tests/ 全绿。

段 1：KV-Cache 分层落盘策略 （src/kv_cache_tiered_storage.py）。模拟 hot / warm / cold 三层，用 LRU 淘汰实现自动升降级，输出各层容量、命中率与总成本。核心接口 TieredKVCache.access(session_id, size_gb) 返回本次命中层级，稳态下会自然形成"高频在热、中频在温、长尾在冷"的曲线。测试覆盖 LRU 边界、层间迁移、命中率累计三个维度。

段 2：训练 checkpoint 分层存储成本计算器 （src/checkpoint_cost_calculator.py）。读入总 checkpoint GB 数、保留策略（比如最近 3 个保标准、前 3-12 个保低频、其余归档），输出月度账单和三层占比。参考本文表格的阿里 OSS 中国大陆刊例价：标准 0.09 元、低频 0.07 元、归档 0.03 元、深度归档 0.01 元。用 pytest 校验典型场景的账单误差 < 1%。

段 3：向量库 embedding cache 命中率成本模型 （src/embedding_cache_model.py）。推演 embedding cache 命中率从 0% 到 90% 时，总查询成本的边际变化。命中缓存的一次查询成本约 $0.0001，未命中要走完整向量检索约$ 0.001（Pinecone Serverless 折算），命中率每提 10%，月度账单直接砍一大段。用 pytest 校验边界值和单调递减性。

三段代码单独可运行，可以本地 pip install -r requirements.txt && pytest tests/ 一键复现。

八、总结：存储从后台走到台前

回望 2024→2026 这两年，存储从"AI 基础设施的配角"被推到台前。DRAM 2026 年 5607 亿美元、NAND 2890 亿美元、HBM 2025 年 380 亿美元------三个数字加起来 8877 亿美元，超过很多国家一年的 GDP。云侧对象存储卷进 1 分钱 / GB / 月、向量库市场 CAGR 23.5%，每一层都有各自的账要算。

对内容创作者、对 AI 应用开发者、对像点点词元这样的 Token 调度平台，存储不再是"随手扩容"的问题，而是"分层设计 + 命中率优化 + 场景匹配"的系统工程。三段代码把最典型的三个决策点用数据说清楚：KV-Cache 该怎么落盘、checkpoint 该怎么分层归档、向量库 cache 命中率意味着什么。

延续本系列 26 号价格战和 27 号红黑榜的复盘手感------技术账都得落到成本表上，能算清账的架构，才是能长期跑下去的架构。