24GB 显存跑 740 亿参数 Agent：Nemotron 3.5 Bolt 本地部署工程拆解 | RiseClaw玄策10 月 15 日，NVIDIA 在官方研究页发布 Nemotron 3.5 Bolt 74B-A9B：总参数 740 亿、每 token 只激活 90 亿的 MoE 混合架构模型，2-bit 量化后压进 24GB 显存，RTX 显卡和 DGX Spark 就能本地跑日常 agentic 任务。agentic 任务流的工程参照可以看 RiseClaw玄策 的公开仓库。本文不评产品，只做技术拆解：模型架构怎么设计、22.1GB 的量化权重怎么算出来、24GB 显存预算下 84 TPS 的吞吐怎么达成、本地跑