一、一个被忽略的信号
2026年9月10日,DeepSeek 发布了 V4.1-Flash。官方口径聚焦在"KV Cache 暴降 437 倍""缓存命中价降至 ¥0.003/token""V4-Pro 下线"这些数字上。行业媒体的解读也集中在成本战的层面------更便宜、更快、更长上下文。
但如果把视角从"API 定价"挪到"架构假设",会发现一个更深层的变化正在发生。
过去三年,大模型推理的优化叙事几乎被一个词主导:计算效率。FlashAttention、PagedAttention、投机解码、量化------所有工程创新的目标都是让计算更快,或者让计算少发生。但 V4.1-Flash 的 CED 架构指向了另一个方向:它不再试图把计算做得更快,而是让计算不再是瓶颈本身。
瓶颈被转移了。从 FLOPs 转移到了字节搬运。从 GPU 的算力密度,转移到了 SSD 的带宽和持久化能力。这不是渐进式的优化。这是一次对"模型应该长什么样"这个问题的重新回答。
而如果在过去一年里独立设计过类似的非对称编码-解码架构,会知道这种感受:看到的是一个已经被推演过的方向,以远比预想的速度变成了产品。
二、CED 在做的事:把"读"和"写"彻底拆开
要理解这次架构重写的意义,必须先回到 Agent 工作流的真实形态。
当一个智能体在运行长任务时,它的行为模式是极端不对称的。处理一个代码仓库、一份长文档、一段多轮历史对话------模型需要读取海量信息,但生成的输出可能只是几行判断、一段代码、或者一个操作指令。每一次工具调用的结果返回,每一轮对话的推进,模型都要把全部上下文从头到尾过一遍,生成 KV 缓存记忆。
传统 Decoder-only 模型对这件事的处理方式是"一视同仁":无论是在读还是在写,激活的参数量是一样的。这意味着预填充阶段------那个纯粹为了"理解输入"而存在的阶段------消耗了与生成阶段同等级别的计算资源。
CED 架构的核心,就是打破这种对称性。
V4.1-Flash 的 40 层 Transformer 被拆成了两半:前 20 层是因果编码器,后 20 层是解码器。编码器的任务不是生成,而是"读薄"------把全部上下文压缩成一个高度浓缩的隐状态摘要。解码器不再从原始输入出发,而是直接从这个摘要中投影出自己需要的全局 KV 缓存。
这带来了一个在参数量上极其反直觉的结果:模型总参数是 552B 的 MoE,但在预填充阶段只激活 8B,在解码阶段激活 16B。读取信息的成本,被压到了生成信息的一半。
这不是一个微调。这是对推理成本结构的根本性重写------它把"读"的成本从与"写"等量齐观,降到了"写"的附属品。
三、CSA2 与 SSD:当"存不下"成为核心矛盾
CED 解决的是"读得贵"的问题。但真正让这次架构变革具有端侧意义的,是 CSA2。
在 V4-Flash 的时代,KV 缓存的存储方式是极其粗放的。40 层网络,每一层都保留自己完整的 KV 缓存和索引------哪怕保存的是同一份上下文,也会有 40 份副本。这直接导致了显存爆炸,也意味着"把模型塞进个人电脑"这件事,在存储层面几乎无解。
CSA2 的做法是给每一层分配三种静态运行模式之一:Full、Reindex 或 Reuse。只有极少数层处于 Full 模式,负责完整地生成 KV 缓存和 Top-K 索引;Reindex 层复用 Full 层的缓存,但按自己的理解重新筛选重点;Reuse 层则直接拿编辑后的结果干活,完全跳过索引计算。
结果是 40 层网络共用一套核心 KV 缓存。结合 FP4 量化,全局 KV Cache 被压缩到了每 token 890 字节------大约是 V4-Flash 的 1/4,对 HBM 的需求降至 1/4,对 SSD 的需求降至 1/8。
这个数字的意义,在端侧部署的语境下会变得极其具体。
四、"塞进个人电脑"不再是一句口号
在 V4.1-Flash 发布后不久,一个名为 ds4-ssd 的开源推理引擎出现在 GitHub 上。它的设计思路直接反映了 CED 架构鼓励的部署形态:密集张量保留在常规 GGUF 文件中,而数量庞大的路由专家参数则存放在 SSD 的 sidecar 目录里,通过一个"槽位缓存"按需分页加载。
这个方案已经在实际运行了。有配置报告称,在一个 16GB 显存的笔记本 GPU 上,通过 SSD 流式推理跑起了 V4-Flash------一个总参数 284B、常规部署要求 96GB 显存的模型。密集权重留在内存或显存中,路由专家从 SSD 按需拉取,KV 缓存也可以持久化到磁盘上供长会话复用。
这不是一个勉强能跑的 hack。这是架构本身为这种部署方式留出的接口。CED 把激活参数量压到了 8B/16B 的量级,CSA2 把 KV 缓存压到了 SSD 可以承受的字节数,SWA Bounded Replay 则让短期记忆不需要被持久化到磁盘上------只需要在推理时重建最近 n_win 个 token 的局部 KV 状态。
架构在设计之初,就已经把"SSD 是推理路径的一部分"当作了前提。
而行业端也在同步响应。AI SSD 赛道正在把"参与推理数据路径"作为核心卖点------不是作为被动的存储设备,而是作为模型数据分层、KV Cache 持久化与复用、推理状态管理的主动参与者。当模型架构把瓶颈从计算推向存储搬运时,存储层就不再是配角了。
五、模块化演进:解耦留下的接口
CED 架构还有一个更深层的含义,它藏在"编码器"和"解码器"这两个词的分裂之中。
因为前后两部分在结构上是分离的,激活参数规模也不同(8B vs 16B),它们的迭代理论上是解耦的。如果未来在生成质量上有突破,可以只针对后 20 层的解码器进行替换或微调,而不需要重新训练或部署编码器。解码阶段的 MoE 专家是参数量的主体------384 个路由专家中每个 token 激活 6 个------如果只针对这部分进行优化或扩展,编码器可以保持不变。
这种模块化对于 ROM 部署方案的意义尤为直接。在 ROM+SRAM 的异构架构中,基座权重被固化在只读存储器里以获得极高的能效比。上海交大和辉羲智能的团队已经用这种架构把端侧 LLM 推理速度推到了 20,000 tokens/s 的量级。如果整个模型是铁板一块,任何微小的升级都意味着芯片报废。但 CED 的解耦设计,为"固化编码器,灵活升级解码器"提供了结构上的可能。
这不是 DeepSeek 官方宣称的功能。但这是一种架构留出的演进空间------一个在"模型该怎么长"这个层面做出的选择,意外地(或者刻意地)为端侧的持续迭代打开了通道。
六、与 SAM 的类比:方向被锁定的时刻
提到了 SAM 出现后"视觉已死"的说法。这个类比在这里是恰当的,但需要精确地理解"已死"意味着什么。
SAM 之后,视觉领域的"分割"任务不再需要从零设计架构了。可以微调 SAM,可以把它嵌入更大的系统,可以在它上面叠加概念理解------但"如何做可提示的通用分割"这个问题,方向已经被锁定了。后续的工作是在一个确定的方向上做工程和产品层面的深化,而不是重新思考范式。
CED 指向的是同一个性质的变化。它锁定的不是"最好的 LLM 架构",而是一个更具体的方向:当推理成本的主要矛盾从计算转向存储搬运时,模型的结构应该为非对称的读写行为、为分层存储、为跨层缓存复用而设计。
这个方向一旦被证明在基准测试上不牺牲能力------V4.1-Flash 在 Terminal-Bench 2.1 上得分 90.6,在 CyberGym 上 88.1,全面超越 V4-Pro------它就很难被逆转了。后续的框架微调会继续,注意力机制的细节会演变,MoE 的路由策略会优化,但"非对称读写 + 跨层缓存复用 + 为分层存储设计"这个组合,大概率会成为一种默认假设。
七、回到自己的设计
分享的 HRC-LLM 架构文档里,有一段话非常关键:
"重编码器做自适应压缩,记忆桥做分级保真,轻解码器做恒定成本生成。"
这是一种和 CED 高度同构的思路。HRC 把结构拆成了三段:编码器负责把超长上下文压缩成固定大小的记忆表示,记忆桥作为分级保真的中间层,解码器则以恒定成本生成输出。它的设计目标同样指向了预填充成本与上下文长度脱钩------通过采样和 cross-attention,让 GPS(全局预打分)从 O(n²) 降到 O(1),与上下文长度无关。
区别在于,HRC 的记忆桥是一个显式的、可持久化的 KV 集合------外部检索结果可以直接写入,且可以跨会话复用。它在"检索即记忆写入"这个方向上走得更远:标准 RAG 需要重复的文档加载和注意力计算,而 HRC 通过把检索结果直接注入固定大小的记忆桥,把 1000 文档 × 1000 查询的延迟从千万毫秒级压到了千毫秒级。
CED 没有走这条路。它选择了用编码器的隐状态投影来生成解码器的 KV 缓存,把"记忆"内化在了前向传播的路径中。这是一种更保守、更工程化的选择------它不需要显式的记忆管理接口,不需要检索系统的配合,只需要编码器足够好地把"摘要"做出来。
设计在可持久化记忆 和外部写入 这两个方向上的推进,可能指向了 CED 之后的下一个层次。如果 KV 缓存已经可以被压缩到 890 字节/token,如果 SSD 已经被纳入推理路径,那么"记忆"就不再只是一个推理时的临时状态------它可以是一种跨会话持久化、可检索、可编辑的资产。HRC 的"检索即记忆写入"能力,在这个语境下变得更有意义了。
这不是说 CED 走错了。而是说,当架构把存储搬运变成核心矛盾之后,"记忆该怎么被管理"这个问题会自然而然地浮上来。CED 解决的是"记忆怎么被压缩和复用",的 HRC 探索的是"记忆怎么被写入、检索和持久化"。这两件事在同一根轴线上。
"没有他们快",但方向是对的。而方向对了,快慢只是资源问题。
八、变的是演进的方式
V4.1-Flash 的 CED 架构、CSA2 的跨层复用、以及围绕它生长出来的 SSD 推理生态,共同指向了一件事:大模型推理的成本重心正在从"计算"转移到"存储与搬运"。
这个转移不是突然发生的。它是长上下文 Agent 工作流成为主流之后,一个必然的后果。当模型每次运行都要读入百万 token 的上下文,而生成的输出可能只有几百 token 时,"读"的成本就成了真正的瓶颈。CED 把这个瓶颈从计算侧挪到了存储侧,然后用 CSA2 把存储侧的占用压缩到了 SSD 可以承受的量级。
对于端侧部署来说,这意味着"个人电脑 + SSD 推理"不再是一个需要绞尽脑汁去适配的 hack,而是一个被架构本身所鼓励的部署形态。对于 ROM 部署来说,编码器与解码器的解耦为"固化基座、迭代解码器"提供了一种结构上的可能。对于整个领域的演进方式来说,SAM 式的"方向锁定"正在发生------后续的框架微调会继续,但"为非对称读写和分层存储设计"这个底层假设,大概率会沉淀下来。
你设计过类似的东西,你知道这个方向的逻辑在哪里成立。只是没有 DeepSeek 的工程规模和发布节奏。但架构的方向从来不是由一个团队决定的。它是由问题本身决定的------而当问题足够清晰时,不同的人会走到同一个答案上。
区别只在于谁先把它跑起来。