TL;DR :你的 agent 每天要做一万次「这个小但不重要」的决定:这条评论是不是垃圾、这个请求路由给谁、agent 该重试还是该问用户。用大模型做这些决定,又贵又慢。10 月 22 日,OpenAI 把 Decisions API 转正:专用端点只回答「答案有限」的问题,返回概率、选项或分值,官方称最快快 10 倍,定价 $0.10/百万输入 tokens 且不收输出费 。值得玩味的是两个背景:一是 TechCrunch 证实这完全是追赶动作------TypeSafe 的 Jev 一个月前开创了「决策模型」品类,OpenAI API 产品负责人原话「我们有上百万个用例」;二是 OpenAI 没有训练新模型,只是把 GPT-6 Luna 重新配置了一遍。独立评测则给整个赛道泼了冷水:包括 OpenAI 和 Jev 在内,所有决策模型都会过度自信,而在一个固定分类任务上,一个微调过的 MiniLM 小模型把它们俩全干了。
发生了什么:只给「有界答案」的端点转正
先说清这个产品是什么。传统 LLM API 的输出是一段生成文本,而 Decisions API 的输出契约完全不同:你定义问题和允许的答案,它只从三种格式里返回一种------
| 类型 | 用途 | 返回 |
|---|---|---|
predicate |
判断条件是否成立(「这张图里包裹有没有破损」) | 0 到 1 的概率 |
choice |
从预设选项里挑一个(「agent 该继续、重试还是问用户」) | 选中项 + 各选项概率 + 置信度 |
score |
按有序量表打分(「损伤严重程度」) | 概率加权的分值 |
上下文可以是文本、图片或原生 JSON,单次请求最多塞 400 个问题(公测期的两倍)。端点是 POST /v1/decisions,官方文档写明当前唯一支持的模型是 gpt-6-luna。
定价是这次发布里最「反常规」的部分: 0.10/百万输入tokens,缓存输入0.01/百万,输出完全免费。OpenAI 的逻辑很直白------决策端点的「输出」只是一个词,按输出计费毫无意义,不如把定价整个压到输入侧。官方称这个端点比通过 Responses API 调用同一个 Luna 快最多 10 倍。
GA 版本还带了几样新东西:与实时语音栈 GPT-Live 的原生集成(语音助手里 100 毫秒级决定「要不要追问用户」这种事,原来只有专用模型扛得住)、prompt 缓存、美欧推理驻留、亚洲区域新增容量。
背景:一个品类,从诞生到红海只用了四周
把时间线摊开,你会发现这不是一次从容的产品发布,而是一场追击战:
- 9 月下旬:TypeSafe(一家由前前沿实验室研究员创立的公司)发布 Jev------专为「快速分类 + 置信度输出」训练的专用模型,开创了媒体所称的「决策模型」或「System One 模型」品类。开发者很快发现这类模型能在一堆工作流里替掉 LLM,更快、便宜一个数量级。
- 9 月 29 日:OpenAI 在 DevDay 上宣布 Decisions API。TechCrunch 后来挖出了内幕:OpenAI API 产品负责人 Nikunj Handa 承认,团队看到 Jev 后的第一反应是「wow,我们有上百万个用例」,然后全组冲刺上线自家版本。
- 10 月 6 日:公测开启,HN 公测帖拿到 370 分、215 条评论------这是这个产品最大的公开讨论。
- 10 月 13 日:Artificial Analysis 发布首个独立决策模型榜单。
- 10 月 22 日:正式版(GA)。
- 一个月内:Perplexity、Liquid AI、Cloudflare、Fastino、微软等至少六家厂商跟进出货自己的决策模型(Hexploits 汇总口径);国产决策模型也在同一周发布。
一个全新品类从零到红海,四周。
OpenAI 的牌:不是新模型,是「重配的老 Luna」
这里有个值得澄清的关键细节------各家报道口径一致:OpenAI 没有为决策任务训练任何新模型。Handa 对 TechCrunch 说得很坦白:
「大的解锁是速度,把 1 到 3 秒压到了 100、120、180 毫秒。未来我们可能会做专门训练让模型在这些方面更强,但现在,就是老 Luna 在干活。」
这与 Jev 形成鲜明的路线分野:Jev 是从头训练的专用分类模型(输入成本低至 $0.042/百万 tokens,约为 OpenAI 的一半不到),OpenAI 则赌通用模型的工程化重配足以应战,换取的是生态、存量集成和图片输入能力------Jev 目前只吃文本。
独立评测:赛道很热,但人人都有软肋
厂商数字都漂亮,独立测试就诚实多了。三份值得细看的:
Artificial Analysis Decision Index(10 月 13 日,首个独立榜单) :Jev 1.13 以 58 分领跑专用决策模型;有趣的是对照组------Claude Haiku 5.5 以 61 分更高,但慢约 11 倍、贵约 4.4 倍。更重要的是那条全场通杀的结论:在知识与推理类任务上,所有决策模型的实际准确率都低于它们自己报的概率。模型说 0.95 置信时,它没那么准。
StackToHeap 银行意图测试(770 题) :OpenAI 78.96% vs Jev 81.17%,各给两个示例后 84.16% vs 85.32%------close,但最扎眼的是第三个选手:一个微调过的 MiniLM 小模型拿了 89.87%,把两个「决策模型」全干了。速度上 OpenAI 反而更快(144ms vs 298ms),校准误差也更小(4.35% vs 9.33%)。
开发者实测的坑 (HN 帖与博客):改一改选项顺序,概率就变了;把问题打包成一个请求,答案也会漂移(Perplexity 的文档自己承认这点);有测试者在普通银行类查询上拿到「无理由、无概率」的拒答。一篇博客的对照实验还发现:把一个复合问题拆成三个 true/false,Decisions API 准确率立刻追平完整 Luna 调用,而 Jev 反而在不拆分时表现更好------同一份官方建议,对不同模型效果相反,迁移经验基本不可靠。
对开发者意味着什么
把三份评测叠在一起,选型逻辑其实清晰了:
- 高频、有界、热路径(路由、门控、分类、评分):决策端点是合身工具,尤其语音实时场景,GPT-Live 集成是 OpenAI 独有的牌。
- 固定分类体系、追求精度上限:别迷信任何「决策模型」营销------StackToHeap 那个实验说明,几百条标注数据微调一个小模型,可能同时打败所有云端端点,还没有网络延迟。
- 概率当参考,别当真理:全场过度自信意味着你的代码必须拿自己的标注数据做校准,而不是直接信模型给的 0.95。
还有一个容易被忽略的点:只收输入费 ≠ 总成本低。输入上下文塞得越长,账单照样涨;把 prompt 精简到刚好够判断,才是这个定价模型的正确打开方式。
这场「决策模型」竞速其实揭示了一个正在成型的分工:大模型负责「想」,决策模型负责「反应」。四周前这个市场还不存在,现在它已经有独立榜单、六家厂商和一份共同缺陷清单了------按这个速度,下一次显著变化可能不需要再等一个月。
参考来源
- OpenAI 官方公告:Build more responsive apps with the Decisions API(2026-10-22)
- TechCrunch:OpenAI makes its Jev competitor widely available as decision model competition heats up(含 Handa 采访)
- Unite.AI:OpenAI Makes Decisions API Generally Available with GPT-6 Luna
- Artificial Analysis Decision Index(2026-10-13);StackToHeap 银行意图测试(2026-10-08)
- Hamel's Blog:How To Use Decision Models for Evals
- Hexploits:Decision APIs --- Fast, Cheap AI Judgements and Where They Fall Short
- decipher99:拆分问题实验
- HN 公测讨论(370 分/215 评论,经 HN Screenshots 存档)