这周技术圈最该看的东西，不是哪个模型又刷榜，是 DeepSeek 把内部推理框架 DeepInfer 开源了。
10 月 20 日上线 GitHub，到写稿时 20196 Star、2138 Fork，不到一周。
为什么值得看：模型能力上限由模型决定，但能不能用合理成本撑住超大规模服务，取决于推理框架这个中间层。而这个中间层，过去几年基本没人公开讲过。
一、DeepSeek 交出来的成绩单
先说它自己的数据。
单一集群服务吞吐 155 万亿 Token/天，每卡每小时收入 38 美元（波谷价，约 253.8 元）。
基于 DeepInfer 跑的是 DeepSeek-V4.1-Flash-1017。仓库给两套构建入口：英伟达走 CUDA 13，昇腾走 CANN 9.2。
集成的能力列表：高性能算子、分布式推理、推测解码、SWA Bounded Replay、结构化输出。
配套还放了一个 deepseek-recipe，是生产级 Token 编解码组件，跟 DeepSeek 官方 API 的处理逻辑完整对齐。这个东西的价值常被低估------很多自建服务最后发现同样 prompt 出来的结果跟官方 API 不一样，问题就出在编解码环节，不在模型。
二、三个真正省算力的设计
1. DSpark：验证候选从固定 5 个变成动态
推测解码的老问题是草稿模型一次提多个候选，主模型得全部验证。但不同位置候选的通过概率差很多，固定验证 5 个，等于把算力花在大概率被否的内容上。
DeepSeek 加了置信度预测，按候选被接受的概率安排验证量。
效果：接近生产条件的测试里，每步验证候选数减少约 30%，平均接受长度基本不变，吞吐提升 4% 到 7%。
这个数字看着不大，但它是乘在每一层调用上的。按 155 万亿 Token/天的量级算，4% 是每天 6 万亿 Token 的差别。
2. SWA Bounded Replay：Prefill 计算量接近减半
长上下文场景里，滑动窗口注意力的缓存一失效就得重算整段。SWA bounded replay 只重算末尾需要的那一小段。
按官方部署文档的说法，这项设计让整体 Prefill 计算量接近减半。
Prefill 是从头吃你的 prompt，Decode 是逐 token 吐答案。长 prompt 场景下 Prefill 才是成本大头，这一项对 RAG、代码补全这类输入远大于输出的任务影响最直接。
3. Prefill / Decode 分离 + 独立缓存存储
这个是架构层面的。DeepSeek 官方架构图里，图像处理、输入计算、答案生成分别部署，底部是独立的缓存存储集群。
好处很实际：算力机器故障、扩容、缩容，已经保存的结果还能继续用。缓存不跟着计算实例的生灭走。
还有专家并行。官方对比了 EP8/DP8 和 EP64/DP64 两种配置，64 卡条件下单用户生成速度和单卡吞吐能同时更高。大规模部署时还会把不同专家分到更多卡上，并动态调整热门专家的分布，避免部分卡过忙、其他卡空等。
三、说实话，这个框架大部分读者用不上
技术博主宝玉的评价很到位：要跑在 Blackwell 一代数据中心显卡（SM100）或昇腾 950 上，官方测性能用了 4 到 64 张，个人电脑跑不动。而且只支持 V4.1-Flash 一个模型。
更关键的是范围。这次放的是离线推理核心。要做完整线上服务，还得自己接：对话前文缓存系统、输入输出分离部署、多副本负载均衡。DeepSeek 在部署文档里公开了设计，但代码没全给。
所以受益者不是我们这种在笔记本上调模型的，是想自己部署 DeepSeek 的企业和云厂商。他们至少不用从零摸索了。
四、同日开放权重：MiniMax M3.1 Flash
同一天还有一件对开发者更直接的事：MiniMax M3.1 Flash 权重正式开源（10 月 23 日）。
规格：MoE，总参数 428B，激活约 23B，原生 100 万 Token 上下文，文本/图片/视频输入。思考深度用 effort 参数分 low、medium、high、xhigh、max 五档，默认 max，不能关。
之前那个在 OpenRouter 上匿名屠榜的 Space Bunny，就是它的早期版本，累计处理超 200T Token。
官方跑分：DeepSWE v1.1 73.7%（Opus 5 是 74.0%），OSWorld V2 61.7，CyberGym 82，Automation-Bench 62.2。Agents' Last Exam 29.6%，国产第一。
成本对比才是有意思的地方。官方 ALE 图上，Opus 5.5 约 38%、GPT-6 Astra 约 34%，都高于 29.6%，但跑完这套评测估计 1000 美元以上；M3.1 Flash 约 111 美元。
第三方数据要打点折：Artificial Analysis 的综合指数 42 分，比 DeepSeek V4.1 Flash-1017 的 45 分低 3 分，和 GLM-5.3-Flash 同分；实测输出 120.1 token/s，官方说 170 以上。
算成本别只看单价
单价是每百万 Token 输入 0.15 美元、输出 0.60 美元、缓存读取 0.015 美元。上一代 M3 是 0.30/1.20。
但 Agent 场景真正的成本结构不在这里。写个脚本按你自己的调用画像算：
```python
cost_estimate.py --- 按真实调用画像估算每任务成本
单价单位：美元 / 百万 token
PRICING = {
"m3.1-flash": {"in": 0.15, "out": 0.60, "cache": 0.015},
"m3": {"in": 0.30, "out": 1.20, "cache": 0.42},
"ds-v4.1f": {"in": 1.00, "out": 4.00, "cache": 0.02}, # 空闲时段
}
def task_cost(model, sys_tokens, turns, tool_out_tokens, cache_hit_ratio=0.85):
"""一个多轮 Agent 任务的实际成本。
sys_tokens 系统提示 + 工具定义（每轮都重发，可缓存）
turns 轮数
tool_out_tokens 每轮工具返回的 token（喂回模型）
cache_hit_ratio 前缀缓存命中率，RAG/工具类任务通常 0.8+
"""
p = PRICINGmodel
cached = sys_tokens * cache_hit_ratio
fresh = sys_tokens * (1 - cache_hit_ratio)
total_in = 0.0
for i in range(turns):
每轮输入 = 缓存前缀 + 新增历史
total_in += cached * p"cache" / 1e6
total_in += (fresh + tool_out_tokens * i) * p"in" / 1e6
total_out = turns * tool_out_tokens * 0.15 * p"out" / 1e6
return total_in + total_out
for m in PRICING:
print(f"{m:12s} ${task_cost(m, 8000, 12, 1200):.4f} / 任务")
```
跑一下会发现一个反直觉的结果：缓存单价的重要性可能超过输入单价。
M3.1 Flash 缓存读取 0.015，DeepSeek V4.1 Flash 是 0.02，M3 是 0.42。一个 8000 token 的系统提示、12 轮的工具调用任务，缓存命中率 85% 的情况下，缓存那部分的成本占比能到四成以上。
这解释了为什么现在所有厂商都在打缓存价：Agent 场景里，重复前缀才是常态。
五、Agent 的"说明书"归基金会管了
技术上还有一条：Anthropic 把 Agent Skills 标准捐给了 Agentic AI Foundation（Linux 基金会下）。
连名称、logo、GitHub 组织、agentskills.io 域名一起交。维护者是 Anthropic、Google、OpenAI 等公司的工程师以个人身份担任。
标准 2025 年 12 月发布，现在 70 多个平台集成，ChatGPT、Cursor、GitHub Copilot、VS Code 都在。
对我们写 Agent 的人来说，这意味着分层终于清楚了：
• MCP = 工具连接层
• Skills = 知识层（技能就是文件夹里的指令）
• 子 Agent = 隔离上下文的执行单元
• 组合方式：Skills + MCP 取数后处理，Skills + 子 Agent 委派任务
劝一句：别再为每个场景新造一个 Agent 了。把领域知识写成可版本化的技能目录，比写第 15 个 Agent 类有用。
同周的反面案例：外部评估发现 OpenAI 内部监控有漏洞，智能体可绕过安全限制。标准的开放和执行的失控，是同时发生的。
六、GitHub 上这周还能看的
Gathin23/cleanyourtv --- 24458 Star，Java
Android TV / Google TV 去广告工具，Wi-Fi 连接即可刷入，刷完是 Apple TV 风格桌面，还带一键还原。一周多两万四星，需求真实。
onehumanbeing/esp32-iphone-agent --- 3567 Star，C
用 7 美元的 ESP32 让 AI 操作真 iPhone：AirPlay 当眼睛，USB HID 当手，兼容任何 OpenAI 协议的视觉模型。不需要 Mac、开发者账号、越狱。做移动端 Agent 自动化测试可以试试这个思路，比 Appium 那套轻得多。
deeplethe/solid-glass --- 2117 Star，TypeScript
AI 应用的设计系统，主张材质、物理感、触感。AI 产品界面同质化严重的当下，算一个不同的方向。
最后
这几天的技术发布有个共同特征：都在解决"钱"的问题，不在解决"智能"的问题。
DeepInfer 省的是推理成本，M3.1 Flash 省的是 token 单价和缓存费，Skills 标准化省的是重复造 Agent 的工程成本。
模型能力还在涨，但涨速已经不是瓶颈了。瓶颈是每个任务跑下来要花多少钱。
你们团队现在自建推理还是走 API？
具体点：如果做长流程 Agent（10 轮以上工具调用），你会为了缓存单价换模型，还是为了稳定性留在原来那家？
有实测过 DeepInfer 或者 M3.1 Flash 的同学，评论区报个真实数据，尤其想看在昇腾上跑的结果。
有更好的成本建模方式也欢迎贴出来。