第5篇 · S1·下:前沿架构:MoE、Reasoning 模型、长上下文、多模态、SSM/Mamba 与模型谱系2024-2025 让大模型能力跑出陡峭曲线的前沿架构与范式,这一篇一次讲透:MoE 稀疏激活、Reasoning 模型(test-time compute)、上下文窗口与长上下文技术、多模态融合、SSM/Mamba 新路线,最后用一张主流模型谱系表收束整个 S1。 它承接第 3 篇的 Transformer 架构(MoE 是它的架构演进)与第 4 篇的自回归推理(Reasoning 是它的范式演进)。学完之后,任何新模型发布,你都能按"稠密/MoE、是否 Reasoning、上下文长度、是否多模态"四个