IBM Technology 前沿观察
System 1 AI 范式
TypeSafe AI / Jev
主讲人：Martin Keen (IBM Master Inventor) · 原片时长：11分18秒 · 议题：非文本生成决策模型与确定性路由
核心心智模型："当人们看到'2 + 2'时，大脑会瞬间反射出'4'，这就是快思考（System 1）；而当面对'17 × 24'时，你必须停顿下来分步推演，这就是慢思考（System 2）。在当下的 AI 工业界，我们几乎把所有的工程精力都倾注在制造'极度昂贵、逐字输出、深思熟虑'的 System 2 模型上；但现代软件系统在绝大多数时刻，需要的仅仅是一个**毫秒级、零幻觉、输出校准概率的 System 1 决策基座**------这就是 Jev 带来的范式转移。"------ Martin Keen一、 认知重构：生成式 LLM 在纯决策场景的固有硬伤
在当前的 AI 应用开发中，当工程师需要对一段业务文本（例如客服工单、审批流、敏感内容）进行判定或路由时，通用的做法是将输入打包成 Prompt 发送给前沿大语言模型（如 GPT-4o、Claude 3.5），并强制要求其以 JSON 格式输出决策字段。
IBM 首席发明家 Martin Keen 指出，这种依赖传统自回归 LLM 做软件逻辑分支的做法存在三大致命缺陷：
- 逐 Token 解码的时延与吞吐黑洞 ： 自回归文本模型无论多么轻量，都必须按照贪心或采样机制一个 Token 一个 Token 地吐出字符（
{"refund": true, ...}）。哪怕是输出十几个字符的 JSON，端到端延迟通常也在数百毫秒至数秒之间，无法满足高频实时系统的调度需求。 - 虚幻的确信感与"未校准概率" ： 传统 LLM 即使在 Prompt 中输出
"confidence": 0.95，这个数字往往也是幻觉或后训练对齐（RLHF）过度自信的产物。模型的 Logits 概率分布在生成长文本时严重偏离现实，无法作为精密风控的数学置信度阈值。 - 高昂的成本与算力浪费： 为了获得一个布尔值或分类枚举，调用数十亿甚至千亿参数的生成式模型，不仅浪费了庞大的显存带宽，还必须承担昂贵的输入输出 Token 计费。
二、 认识 Jev：不生成字符的"System 1"专有决策模型
面对这一困境，由前 OpenAI 核心研究员（InstructGPT 与 RLHF 共同作者）Diogo Almeida 创立的 TypeSafe AI 团队推出了全新架构模型------Jev。
Jev 名字致敬了 19 世纪英国著名逻辑学家与经济学家 威廉·斯坦利·杰文斯（William Stanley Jevons） ------他早在 1869 年就制造了人类历史上第一台能够通过布尔代数执行确定性逻辑推导的机械计算机"逻辑钢琴"（Logic Piano）。与杰文斯的思想一脉相承，Jev 的核心哲学是：AI 应该直接计算逻辑，而不是伪装成作家去撰写逻辑。
💡 Jev vs 传统 LLM / 推理模型的架构对照| 对比维度 | 传统自回归 LLM (如 GPT-4 / Claude) | 长思考推理模型 (如 o1 / R1) | Jev (System 1 决策基座) |
|---|---|---|---|
| 认知系统映射 | 弱 System 2 (依赖自回归逐步展开) | 强 System 2 (显式思维链 Long CoT) | 纯粹 System 1 (单次前向直觉决策) |
| 输出载体 | 自由文本、代码或约束 JSON 字符串 | 长推理过程 + 最终回答文本 | 离散决策值 + 真实校准概率 (0.0~1.0) |
| 生成机制 | 自回归逐步自解码 (Token-by-Token) | 多步骤展开搜索与反思 | 单次前向传播 (Single Forward Pass) |
| 语法破坏/幻觉 | 可能存在 JSON 截断或格式违规 | 格式复杂度高，偶发解析失败 | 零结构幻觉 (类型安全，强结构体) |
| 推理延迟与成本 | 数百毫秒至数秒；按输入+输出计费 | 数秒至数十秒；极度昂贵 | 极低延迟 (<100-300ms)；输出免 Token 费 |
三、 Jev 的三大决策原语（The Three Decision Primitives）
Jev 的 API 设计彻底剥离了聊天框和长上下文对话，完全以"状态注入（State） + 命题列表（Questions）"的方式交互。开发者向 Jev 投递一段上下文环境（如工单内容、用户提问、数据库片段），同时定义若干个基于特定类型的决策命题：
Primitive 01 Noul（布尔真值与置信度评估）
即 Yes/No 二元判定。返回模型对命题为真的校准概率（Calibrated Probability）。例如：
-
命题："该用户反馈是否属于要求全额退款的诉求？"
-
Jev 返回：
True，伴随精确概率标量0.92。Primitive 02 Choice（离散集合分流）
在有限且互斥的枚举选项列表中进行快速路由。不同于传统 LLM 输出一个文本名称，Jev 会计算并输出每一个选项上的概率归一化分布：
-
命题："该问题应当分流至哪个部门？财务计费, 售后硬件, 云服务技术支持"
-
Jev 返回：
财务计费: 0.88, 售后硬件: 0.08, 云服务技术支持: 0.04。Primitive 03 Score（有序离散定级）
针对具有明显等级、严重性或层级尺度的命题进行数值或星级评估（如紧急程度 1~5 级、情绪态度等）：
-
命题："用户情绪愤怒程度评估 1: 极度冷静 ... 5: 怒不可遏"
-
Jev 返回精确的有序离散打分及各等级的置信权重。
四、 为什么是"校准概率"？揭秘强化学习对齐的演进
Martin Keen 在白板演练中深入剖析了 Jev 区别于传统模型的底层对齐机制：
- 预训练（Pre-training）的本质： 模型阅读海量语料，学会预测下一个 Token 的概率分布。此时模型具有原始的分布感知，但并未针对特定任务对齐。
- RLHF（人类反馈强化学习）带来的副作用 ： 传统大模型为了讨好人类评审员，经过奖励模型（Reward Model）的过度优化，往往呈现出极端自信与过度迎合------模型预测概率的波形被非线性放大至接近 0 或 1，导致提取出的 Logits 不再具备真实统计学意义上的概率校准性（Calibrated Probability）。
- RLUR 与 RLCD 的演化 ： 随后行业引入基于无偏规则的强化学习（RLUR）以及基于模型自身批判的对齐机制（RLCD）。而 Jev 在后训练阶段的核心任务不是学习如何把话说得委婉漂亮，而是将模型预测的置信度与客观事实的命中率进行严格的 1:1 数学校准。当 Jev 给出 0.85 的概率时，在统计学大数定律下，这意味着在 100 次同类场景中恰好有 85 次为真实准确。这为工程决策提供了可靠的数学阈值把控。
五、 工业级架构实战：Jev + LLM 协同流水线
Martin Keen 强调，Jev 的定位并非取代大语言模型，而是成为 LLM 前置与侧翼的高性能护栏（Guardrail）与交通调度员（Traffic Controller）。
🚀 典型多智能体业务流水线实战设计
[用户请求/工单输入]
│
▼┌─────────────────────────────────────────────────────────┐
│ 第一层：Jev 毫秒级 System 1 决策层 │
│ - Noul: 是否包含越狱/恶意代码注入？ (阈值 > 0.05 触发拦截) │
│ - Noul: 是否需要全额退款？ │
│ - Choice: 意图分流 普通咨询, 财务申诉, 深度技术工单 │
└─────────────────────────┬───────────────────────────────┘
│
┌────────────────────┼────────────────────┐
▼ ▼ ▼
【高确信常见操作】 【安全违规阻断】 【高复杂度长尾任务】
无需唤醒昂贵大模型 直接静默丢弃或报警 唤醒主力 LLM / o1 推理机
直接调用 CRM API 扣款 执行深度排查与生成式回复
(延迟 < 80ms, 成本 ≈ 0) (精准调用，节约 80% 算力)
六、 总结：从"全知作家"走向"精准控制"
在 AI 从聊天玩具走向核心业务系统的关键拐点，我们需要重新反思系统的认知架构。正如人类大脑不可能在每一个动作上都动用庞大的额叶皮层进行逻辑穷举，未来的 AI Agent 基础设施也必然呈现出分层感知体系：
- 边缘与调度层： 交给以 Jev 为代表的 System 1 决策模型，负责毫秒级反射、安全护栏、意图分类与概率断言；
- 深思与生成层： 交给以 Claude / OpenAI 为代表的 System 2 模型，负责长上下文综合理解、逻辑推理与高质量文本合成。