FreeToken:在游戏 PC 上跑 290B+ 前沿 MoE——带宽自适应执行的本地推理新范式本文基于 2026-08-22 情报快照,数据以原文为准。摘要:FreeToken 是一个面向消费级硬件的 MoE 推理引擎,论文与代码双发,核心思路是把「带宽」而非「算力」当作第一约束:不再绑定固定卸载策略,而是把 GPU、CPU、主机内存与 PCIe 视为一块弹性平台,按需把专家权重与 KV 缓存在设备间动态摆放。论文实测,8GB 显存笔记本可跑 35B 模型,32GB 游戏台式机可交互式运行 284B 前沿 MoE,单张工作站 GPU 甚至能跑 753B 的 GLM-5.2。本文拆解其机制、实测数据