DeepSeek-V4.1-Flash-1017开源:KV缓存890B/Token,检索API按次计费

DeepSeek 一天补齐三层:新模型、新壳、搜索开始按次收费

一、同一天,三层各动了一格

10 月 17 日这一天,DeepSeek 的 agent 栈从下到上各动了一格。

模型层 :Hugging Face 上新仓库 deepseek-ai/DeepSeek-V4.1-Flash-1017,上午 10 点 40 建仓,MIT 协议,权重直接开放。API 调用方不用改任何代码------模型名还是 deepseek-flash,自动由新仓承接;旧名 deepseek-v4-flash 和 deepseek-v4-flash-vision-exp 也仍然接受,但背后的模型已经退役,请求由新仓服务、按 Flash 价计费。

壳层:DeepSeek Harness 当天连发两个候选版,v0.2.1-rc.1(北京时间 13:22)和 rc.2(16:16)。rc.2 的 changelog 里两条新增功能,正好一条对应一层:适配 DeepSeek-V4.1-Flash-1017 上线;适配 DeepSeek Search 与 Fetch API,在网页搜索设置里开启。

检索层 :Search 和 Fetch 两个接口公布定价------各按每 1000 次成功请求 0.75 美元收费。目前通过 Harness、Claude Code、Codex 走的服务端调用免费,北京时间 11 月 1 日 0 点起开始计费。

严格说这不是一次「新模型发布」:V4.1-Flash 的架构早就在,1017 是它的一个刷新档。但把三层放在同一张时间线上看,这件事的形状就出来了------模型、壳、检索同日更新,检索第一次单独定价。壳本身的功能(四种模式、六个原生插件那些)之前在《DeepSeek Harness桌面版实测:开箱即用的Agent壳》里写过,这篇不重复,只看 10 月 17 日动了的这三格。

二、跑分:agent 任务涨得最狠,但不是全面领先

官方模型卡给了 11 项基准的新旧对照,外加四个对照模型。先看全表:

基准 V4.1-Flash(上一档) 1017 K3 GLM-5.3 GPT-5.6 Sol Opus 5
HLE(无工具) 36.8 42.6 43.5 42.0† 44.5 56.3
Terminal-Bench 4.0 31.2 42.3 12.6 37.9 39.9 51.8
DeepSWE v1.1 74.2 77.0 67.5 66.9 73.0 74.0
ProgramBench 20.3 29.1 17.5 19.0 23.0 37.0
NL2Repo-Bench 65.4 68.2 58.0 58.0 56.8 75.3
Automation-Bench v1.0.6 54.8 60.5 46.7 48.8 45.8 50.3
Agents' Last Exam 31.8 35.4 27.6 28.5 26.7 28.6
Apex Bench v1.1 64.6 72.1 47.8 56.6 54.3 65.8
Chartography(带工具) 78.9 83.0 68.1 --- 79.9 84.0
BabyVision(带工具) 89.6 92.5 85.7 --- 88.9 94.1
ZeroBench-main(带工具) 49.0 51.0 41.0 --- 53.0 52.0

† 为文本子集。按官方注释,Terminal-Bench 4.0 用 Claude Code 壳跑、DeepSWE v1.1 用 Mini-SWE-V2 壳跑。

相对上一档,涨得最狠的是三处:Terminal-Bench 4.0 从 31.2 到 42.3(+11.1)、ProgramBench 从 20.3 到 29.1(+8.8)、Apex Bench 从 64.6 到 72.1(+7.5)------全是 agent 和编程任务。但对照 Opus 5,1017 并不全面领先:HLE、Terminal-Bench、ProgramBench、NL2Repo-Bench 和两项视觉基准都还落后,真正反超的是 DeepSWE v1.1、Automation-Bench、Agents' Last Exam、Apex Bench 这四项 agent 任务。还有一点值得记住:这张表里的数字都是「模型 + 壳」的组合成绩,同一个模型换个壳跑,数字会动。

官方的定性说法也就到「更快、输出更短、更便宜,把多个 agent 壳下的性能---成本帕累托前沿往前推」为止,没给任务级的具体成本数字。

三、KV 缓存被压到 890 字节一个 token

技术报告同天挂在模型仓库里,51 页,标题把主线挑明了:《Pushing the Limits of KV Cache Compression》。模型本体是 552B 主干参数加 196B Engram 参数 的 MoE(HF 模型卡按 safetensors 标签记总量 763B),上下文 100 万 token。最有意思的规格是激活量的不对称:prefill 每个 token 只激活 8B 参数,decode 激活 16B。

这个不对称是照着 agent 工作负载的形状设计的:一个 agent 跑任务,token 大头花在输入上------读网页、读文件、读工具返回------输出反而短。prefill 便宜、decode 正常,长上下文 agent 的账才算得过来。

压缩 KV 靠四件事叠乘:

CED(因果编码器-解码器)。下半层照常逐层算,上半层的全局 KV 不再由各层自己的隐状态生成,而是直接从中间第 L/2 层的隐状态投影出来。prefill 只需要跑前一半层,复杂度从 O(NL) 降到约 O(NL/2),计算量几乎砍半。代价是滑窗 KV 仍要逐层保留,后面第四件事专门处理它。

CSA2(压缩稀疏注意力 2)。把「层维度复用」做成三种静态模式:Full 层自己生成 KV 和索引;Reindex 层复用上一层的 KV、只重算索引;Reuse 层连索引一起复用。多数层落在 Reuse 模式,prefill 只需 15 个 kernel、decode 11 个------KV 的存储和索引的计算都被摊薄了。

FP4 主 KV 缓存。全局 KV 用 OCP 标准的 MXFP4 格式(E2M1 加每 16 通道一个 scale)做量化感知训练,RoPE 之后再量化,存储比上一代的 FP8 又省近一半。对量化敏感的滑窗 KV 仍保留 FP8 不动。

SWA Bounded Replay。上一代部署里,滑窗 KV 占了持久缓存近一半容量,但它的复用只发生在会话活跃的几分钟内,会话一结束就是死数据。V4.1 干脆不再持久化滑窗 KV,改放进每台机器划出 10% 主存组成的分布式内存池,TTL 只留几分钟;真 miss 了就只重放窗口内那几个 token 兜底,而不是全层全窗重算。

四件事叠出来的结果,是报告摘要里那串数字:全局 KV 缓存(常驻 HBM 的部分)压到每 token 890 字节 ,是上一代 V4-Flash 的约 1/4、V1 的约 1/437;加上持久缓存不再存滑窗 KV,持久 KV 足迹降到上一代的约 1/8。按 890 字节直接折算,100 万 token 的上下文,全局 KV 也就 0.89 GB------对部署方来说,这就是「同样一块 HBM 能塞下多少倍上下文」的换算底数。

预训练用了 45T token 的多模态语料,稀疏注意力从 64K 序列长度起从头训练;另带一个专用投机解码模块 DSpark(3 个 Transformer 块、滑窗 128、一次出 5 个草稿位),推理端提速用。

四、同一天,另一篇论文提醒:KV 搬远一点,可能比重算还慢

10 月 15 日还有一篇论文值得并排读:《When the KV Cache Is Slower Than the GPU: Scaling Remote KV Tiers for Context-Parallel Prefill》。它测的是另一条路------KV 不压缩,放进远端共享层(LMCache + Valkey),让多个推理引擎集中复用。实验配置是 GLM-5.3(FP8 MoE、MLA)在 8 张 B300 上做前缀并行。

结果是一盆冷水:开了远端层,中位 TTFT 没变,但 16k token 请求的 p99 从 3.96 秒涨到 17.3 秒;在缓存命中密集的流量上做同步加载,p99 飙到 83.32 秒,而 GPU 忙碌率只有 7%------瓶颈根本不在算力,在等 KV 从远端搬回来。单次对比更直观:远端命中一次 0.88 秒,就地重算同一个 prompt 只要 0.31 秒。

论文给了一笔能算的账:远端命中要划算,KV 层的带宽必须超过一个门槛(这套配置下约 2.53 GB/s);再加上每次命中约 0.33 秒的固定开销,结论是约 1.7 万 token 以下的 prompt,无论带宽多高,命中都不如就地重算。作者随后做了按秩分片、异步加载等修复,GET 带宽提到 10.76 GB/s,把那条最糟流量的 p99 从 83.32 秒压回 0.67 秒,prefill 吞吐提升 14%------说明这条路能走通,但条件苛刻,每一环都要算。

两条路线摆在一起正好构成对照:DeepSeek 选的是把 KV 压小,小到不值得搬 ------每 token 890 字节,连持久层都省出一大块;论文测的是把 KV 搬远,集中换复用------结论是搬得不好比重算。同一个问题(KV 越来越大)的两个答案,一个动模型架构,一个动部署架构。
#mermaid-svg-TEIBSAvQ4asWSn6j{font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-TEIBSAvQ4asWSn6j .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-TEIBSAvQ4asWSn6j .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-TEIBSAvQ4asWSn6j .error-icon{fill:#552222;}#mermaid-svg-TEIBSAvQ4asWSn6j .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-TEIBSAvQ4asWSn6j .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-TEIBSAvQ4asWSn6j .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-TEIBSAvQ4asWSn6j .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-TEIBSAvQ4asWSn6j .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-TEIBSAvQ4asWSn6j .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-TEIBSAvQ4asWSn6j .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-TEIBSAvQ4asWSn6j .marker{fill:#333333;stroke:#333333;}#mermaid-svg-TEIBSAvQ4asWSn6j .marker.cross{stroke:#333333;}#mermaid-svg-TEIBSAvQ4asWSn6j svg{font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-TEIBSAvQ4asWSn6j p{margin:0;}#mermaid-svg-TEIBSAvQ4asWSn6j .label{font-family:"trebuchet ms",verdana,arial,sans-serif;color:#333;}#mermaid-svg-TEIBSAvQ4asWSn6j .cluster-label text{fill:#333;}#mermaid-svg-TEIBSAvQ4asWSn6j .cluster-label span{color:#333;}#mermaid-svg-TEIBSAvQ4asWSn6j .cluster-label span p{background-color:transparent;}#mermaid-svg-TEIBSAvQ4asWSn6j .label text,#mermaid-svg-TEIBSAvQ4asWSn6j span{fill:#333;color:#333;}#mermaid-svg-TEIBSAvQ4asWSn6j .node rect,#mermaid-svg-TEIBSAvQ4asWSn6j .node circle,#mermaid-svg-TEIBSAvQ4asWSn6j .node ellipse,#mermaid-svg-TEIBSAvQ4asWSn6j .node polygon,#mermaid-svg-TEIBSAvQ4asWSn6j .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-TEIBSAvQ4asWSn6j .rough-node .label text,#mermaid-svg-TEIBSAvQ4asWSn6j .node .label text,#mermaid-svg-TEIBSAvQ4asWSn6j .image-shape .label,#mermaid-svg-TEIBSAvQ4asWSn6j .icon-shape .label{text-anchor:middle;}#mermaid-svg-TEIBSAvQ4asWSn6j .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-TEIBSAvQ4asWSn6j .rough-node .label,#mermaid-svg-TEIBSAvQ4asWSn6j .node .label,#mermaid-svg-TEIBSAvQ4asWSn6j .image-shape .label,#mermaid-svg-TEIBSAvQ4asWSn6j .icon-shape .label{text-align:center;}#mermaid-svg-TEIBSAvQ4asWSn6j .node.clickable{cursor:pointer;}#mermaid-svg-TEIBSAvQ4asWSn6j .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-TEIBSAvQ4asWSn6j .arrowheadPath{fill:#333333;}#mermaid-svg-TEIBSAvQ4asWSn6j .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-TEIBSAvQ4asWSn6j .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-TEIBSAvQ4asWSn6j .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-TEIBSAvQ4asWSn6j .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-TEIBSAvQ4asWSn6j .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-TEIBSAvQ4asWSn6j .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-TEIBSAvQ4asWSn6j .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-TEIBSAvQ4asWSn6j .cluster text{fill:#333;}#mermaid-svg-TEIBSAvQ4asWSn6j .cluster span{color:#333;}#mermaid-svg-TEIBSAvQ4asWSn6j div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-TEIBSAvQ4asWSn6j .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-TEIBSAvQ4asWSn6j rect.text{fill:none;stroke-width:0;}#mermaid-svg-TEIBSAvQ4asWSn6j .icon-shape,#mermaid-svg-TEIBSAvQ4asWSn6j .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-TEIBSAvQ4asWSn6j .icon-shape p,#mermaid-svg-TEIBSAvQ4asWSn6j .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-TEIBSAvQ4asWSn6j .icon-shape .label rect,#mermaid-svg-TEIBSAvQ4asWSn6j .image-shape .label rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-TEIBSAvQ4asWSn6j .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-TEIBSAvQ4asWSn6j .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-TEIBSAvQ4asWSn6j :root{--mermaid-font-family:"trebuchet ms",verdana,arial,sans-serif;} 路线二:把 KV 搬远(远端共享层实测)
LMCache + Valkey,多引擎集中复用
同步加载:GPU 等 KV 回传
16k p99 3.96s 至 17.3s,hit 密集流 p99 83.32s
带宽门槛约 2.53 GB/s:约 1.7 万 token 以下重算更划算
路线一:把 KV 压小(V4.1-Flash 技术报告)
CED:上半层 KV 由中间层投影,prefill 计算近砍半
CSA2:跨层复用 KV 与索引
FP4 量化主 KV + 滑窗 KV 不持久化
全局 KV 890 B/token(上代 1/4),持久 KV 上代 1/8

五、计费对象换了:从 token 到「次」

模型价目表的结构没变,还是按 token:deepseek-flash 每百万输入,缓存命中 0.003 美元(错峰)、未命中 0.15 美元(错峰),输出 0.6 美元(错峰);高峰时段翻倍,且高峰只有工作日北京时间 09:00--12:00 和 14:00--18:00 两个窗口,周末和节假日全天错峰。上下文窗口 100 万 token,最大输出 38.4 万,并发上限 2500。

新东西在检索接口。Search 和 Fetch 从工具调用里独立出来单独立价:每 1000 次成功请求各 0.75 美元,摊到单次约人民币半分钱。两个细节:计费单位是「成功请求」,失败不计费;生效节奏是先免费过渡,11 月 1 日 0 点(北京时间)起,凡是走 Harness、Claude Code、Codex 内服务端调用的,都开始按次扣费。

这件事的分量不在钱数,在计费对象。过去模型公司卖 token,检索要么白送、要么藏进 token 价格里;现在检索被拆成独立的 SKU,按调用次数计价------agent 栈的每一层第一次都有了明码标价。对一个动辄跑成百上千步的 agent 来说,成本模型里从此多一项「步数 × 检索单价」,和 token 账并列着算。粗算一下量级:一个日均一万次检索的任务,按 0.75 美元/1000 次就是每月约 225 美元------已经和不少场景的 token 账一个数量级了。

官方说 1017 「跑得更快、输出更短、每任务更便宜」,任务级成本我自己还没验证------本机壳子还停在 0.2 桌面版,等升上去跑一轮同任务对比,再把这笔账补全。

六、落到用 agent 的人身上,是三件事

第一,11 月 1 日前查一遍自己的链路。 只要 agent 走 DeepSeek API 且开了服务端搜索------不管套的壳是 Harness、Claude Code 还是 Codex------下个月起检索调用开始按次计费,账单结构会多一项。高频任务先估步数,别等账单到了再看。

第二,权重已经可以自己拉。 MIT 协议,HF 直接下载。想自己部署的,技术报告第三章把部署侧的优化(持久 KV 管理、EPD 分离、投机解码)写得很细,890 字节/token 的 KV 足迹意味着长上下文服务的内存门槛换了一档。

第三,盯住 KV 和计费这两条线。 同一天里,一篇论文证明 KV 搬远有带宽门槛,一家厂商把 KV 压到 890 字节还开始对检索按次收费------长上下文 agent 的成本构成正在被重新划分:模型架构吃掉一块(KV 压缩),服务接口吃掉一块(按次计费)。

相关推荐
海宇服务1 小时前
零信任架构实战:基于海宇网上踪迹欺诈行为识别构建自动化电商大促营销补贴风控网关
运维·人工智能·架构·自动化
Bazingga1 小时前
Transformer与自注意力机制:一台"全员检索"机器的说明书
人工智能·后端
时空节拍AI数字人1 小时前
AI 数字人技术架构拆解:从形象克隆到实时驱动的 5 层链路
人工智能·microsoft·3d·架构·语音识别
小弥儿1 小时前
GitHub今日热榜 | 2026-10-19:智能体生态包场的一天
学习·开源·github
小花皮猪1 小时前
从 Prompt 到结构化 JSON:如何利用 Bright Data 快速搭建 YouTube 监测工作流?
人工智能·爬虫·agent·数据采集
曹牧1 小时前
AI CLI(命令行界面)
人工智能
DisonTangor1 小时前
DeepSeek-V4.1-Flash-1017:更快、更省、更强的推理与智能体新标杆
人工智能·开源·aigc·deepseek
虾..1 小时前
计算机图形学:光线追踪
人工智能