看到 Jev 的第 24 天,OpenAI 押上 Decisions API:小决策不做生成、只给答案,还不收输出费

TL;DR :你的 agent 每天要做一万次「这个小但不重要」的决定:这条评论是不是垃圾、这个请求路由给谁、agent 该重试还是该问用户。用大模型做这些决定,又贵又慢。10 月 22 日,OpenAI 把 Decisions API 转正:专用端点只回答「答案有限」的问题,返回概率、选项或分值,官方称最快快 10 倍,定价 $0.10/百万输入 tokens 且不收输出费 。值得玩味的是两个背景:一是 TechCrunch 证实这完全是追赶动作------TypeSafe 的 Jev 一个月前开创了「决策模型」品类,OpenAI API 产品负责人原话「我们有上百万个用例」;二是 OpenAI 没有训练新模型,只是把 GPT-6 Luna 重新配置了一遍。独立评测则给整个赛道泼了冷水:包括 OpenAI 和 Jev 在内,所有决策模型都会过度自信,而在一个固定分类任务上,一个微调过的 MiniLM 小模型把它们俩全干了。

发生了什么:只给「有界答案」的端点转正

先说清这个产品是什么。传统 LLM API 的输出是一段生成文本,而 Decisions API 的输出契约完全不同:你定义问题和允许的答案,它只从三种格式里返回一种------

类型 用途 返回
predicate 判断条件是否成立(「这张图里包裹有没有破损」) 0 到 1 的概率
choice 从预设选项里挑一个(「agent 该继续、重试还是问用户」) 选中项 + 各选项概率 + 置信度
score 按有序量表打分(「损伤严重程度」) 概率加权的分值

上下文可以是文本、图片或原生 JSON,单次请求最多塞 400 个问题(公测期的两倍)。端点是 POST /v1/decisions,官方文档写明当前唯一支持的模型是 gpt-6-luna。

定价是这次发布里最「反常规」的部分: 0.10/百万输入tokens,缓存输入0.10/百万输入 tokens,缓存输入 0.10/百万输入tokens,缓存输入0.01/百万,输出完全免费。OpenAI 的逻辑很直白------决策端点的「输出」只是一个词,按输出计费毫无意义,不如把定价整个压到输入侧。官方称这个端点比通过 Responses API 调用同一个 Luna 快最多 10 倍。

GA 版本还带了几样新东西:与实时语音栈 GPT-Live 的原生集成(语音助手里 100 毫秒级决定「要不要追问用户」这种事,原来只有专用模型扛得住)、prompt 缓存、美欧推理驻留、亚洲区域新增容量。

背景:一个品类,从诞生到红海只用了四周

把时间线摊开,你会发现这不是一次从容的产品发布,而是一场追击战:

  • 9 月下旬:TypeSafe(一家由前前沿实验室研究员创立的公司)发布 Jev------专为「快速分类 + 置信度输出」训练的专用模型,开创了媒体所称的「决策模型」或「System One 模型」品类。开发者很快发现这类模型能在一堆工作流里替掉 LLM,更快、便宜一个数量级。
  • 9 月 29 日:OpenAI 在 DevDay 上宣布 Decisions API。TechCrunch 后来挖出了内幕:OpenAI API 产品负责人 Nikunj Handa 承认,团队看到 Jev 后的第一反应是「wow,我们有上百万个用例」,然后全组冲刺上线自家版本。
  • 10 月 6 日:公测开启,HN 公测帖拿到 370 分、215 条评论------这是这个产品最大的公开讨论。
  • 10 月 13 日:Artificial Analysis 发布首个独立决策模型榜单。
  • 10 月 22 日:正式版(GA)。
  • 一个月内:Perplexity、Liquid AI、Cloudflare、Fastino、微软等至少六家厂商跟进出货自己的决策模型(Hexploits 汇总口径);国产决策模型也在同一周发布。

一个全新品类从零到红海,四周。

OpenAI 的牌:不是新模型,是「重配的老 Luna」

这里有个值得澄清的关键细节------各家报道口径一致:OpenAI 没有为决策任务训练任何新模型。Handa 对 TechCrunch 说得很坦白:

「大的解锁是速度,把 1 到 3 秒压到了 100、120、180 毫秒。未来我们可能会做专门训练让模型在这些方面更强,但现在,就是老 Luna 在干活。」

这与 Jev 形成鲜明的路线分野:Jev 是从头训练的专用分类模型(输入成本低至 $0.042/百万 tokens,约为 OpenAI 的一半不到),OpenAI 则赌通用模型的工程化重配足以应战,换取的是生态、存量集成和图片输入能力------Jev 目前只吃文本。

独立评测:赛道很热,但人人都有软肋

厂商数字都漂亮,独立测试就诚实多了。三份值得细看的:

Artificial Analysis Decision Index(10 月 13 日,首个独立榜单) :Jev 1.13 以 58 分领跑专用决策模型;有趣的是对照组------Claude Haiku 5.5 以 61 分更高,但慢约 11 倍、贵约 4.4 倍。更重要的是那条全场通杀的结论:在知识与推理类任务上,所有决策模型的实际准确率都低于它们自己报的概率。模型说 0.95 置信时,它没那么准。

StackToHeap 银行意图测试(770 题) :OpenAI 78.96% vs Jev 81.17%,各给两个示例后 84.16% vs 85.32%------close,但最扎眼的是第三个选手:一个微调过的 MiniLM 小模型拿了 89.87%,把两个「决策模型」全干了。速度上 OpenAI 反而更快(144ms vs 298ms),校准误差也更小(4.35% vs 9.33%)。

开发者实测的坑 (HN 帖与博客):改一改选项顺序,概率就变了;把问题打包成一个请求,答案也会漂移(Perplexity 的文档自己承认这点);有测试者在普通银行类查询上拿到「无理由、无概率」的拒答。一篇博客的对照实验还发现:把一个复合问题拆成三个 true/false,Decisions API 准确率立刻追平完整 Luna 调用,而 Jev 反而在不拆分时表现更好------同一份官方建议,对不同模型效果相反,迁移经验基本不可靠。

对开发者意味着什么

把三份评测叠在一起,选型逻辑其实清晰了:

  • 高频、有界、热路径(路由、门控、分类、评分):决策端点是合身工具,尤其语音实时场景,GPT-Live 集成是 OpenAI 独有的牌。
  • 固定分类体系、追求精度上限:别迷信任何「决策模型」营销------StackToHeap 那个实验说明,几百条标注数据微调一个小模型,可能同时打败所有云端端点,还没有网络延迟。
  • 概率当参考,别当真理:全场过度自信意味着你的代码必须拿自己的标注数据做校准,而不是直接信模型给的 0.95。

还有一个容易被忽略的点:只收输入费 ≠ 总成本低。输入上下文塞得越长,账单照样涨;把 prompt 精简到刚好够判断,才是这个定价模型的正确打开方式。

这场「决策模型」竞速其实揭示了一个正在成型的分工:大模型负责「想」,决策模型负责「反应」。四周前这个市场还不存在,现在它已经有独立榜单、六家厂商和一份共同缺陷清单了------按这个速度,下一次显著变化可能不需要再等一个月。

参考来源

相关推荐
小四的小六15 小时前
一次出站重试风暴的沙箱复盘:重试没退避,Agent 十几分钟烧穿整月额度
aigc·openai·ai编程
Behavior20 小时前
影响约 70% 网站:OpenAI 牵头协调全球发现/修复 PHP 高危漏洞
php·openai·ai编程
ZzT1 天前
嫌推理慢就把 effort 调高?effort 管的是想多少,不是想多快
openai·ai编程·claude
变量棱镜1 天前
ChatGPT 遭到起诉,被控伤害儿童和其他脆弱用户
gpt·ai·openai
9i编程1 天前
6. 带 AI 从零搭低代码平台·踩坑实录:实测与大回归,实操又跑偏逐条清零
人工智能·openai·ai编程
云卷云舒___________1 天前
Qwen本地新模型!Gemini4 Carbon订档本月!Anthropic Fable5.5将至!GPT-6.1Terra现身! | 10月20日 AI日报
openai·qwen·anthropic·ai日报·gemini4carbon·fable55·gpt61terra
字节逆旅2 天前
AI时代,人类不能停止思考
aigc·openai
墨林陌2 天前
AI 热点日报(2026-10-21):国家数据集团成立,DeepSeek开源推理框架,OpenAI拟融资300亿美元
openai
ZzT2 天前
Codex 只读 AGENTS.md 的前 32 KiB:OpenAI 自家仓库的测试规范也被截掉了
openai·ai编程·claude