一、JEV模型
JEV模型由前OpenAI核心研究员者Diogo Almeida开发，其设计的基础是"System One（系统一）模型",目的是为模拟人类快速、直觉的"快思考"能力。其核心思想是"Decisions, not strings"即要决策，不要文本。JEV不聊天、不生成代码，只接收输入信息，然后输出带概率的结构化决策结果。
二、原理
JEV模型之所以快速，主要在于它有三个重要的特点：
- 输出范围确定
问题的答案在一开始就已经确定，诸如状态判断得到不同的结果。一般它有三个接口：
- Choice:选择，结果的目标是哪个，即从多个预设的目标选项中返回一个选项加一个各种选项的概率及相关的置信度。如客服工单的分配
- Score:风险等级，给出相关的结果的分数，即给出多个返回的选项目标的等级评分加概率分布及相关的置信度，如客户消费的等级画像
- Noul:是否成立，给出事件是否成立并给出相关的概率。即是的概率，范围在0~1之间
- 并行采样不进行自回归
传统的LLM在输出类别时，需要逐Token的进行生成并且需要处理文本的格式等相关内容。而JEV模型不生成文本，只通过隐藏状态对所有的假选状态进行打分，一次前向计算就出结果。一个请求中可以有多个问题并同时完成，问题数量的增加基本上不影响延迟时间 - RLCD训练
RLCD，Reinforcement Learning Calibrated Decisions即面向校准决策的强化学习，其全程只用合成数据。它不仅要求判断准，还要求报出的概率"校准"的相关信息（即可靠性）。这在一些特殊场景下很有用，可以显式的区分出二者差别情况不大情况下的选择概率，让用户更清楚相关的原因，并因此做出更合适的处理选择。
三、JEV和大模型对比
与大模型相比，JEV模型与其的主要不同在：
- 核心机制
传统的大模型LLM是一种自回归逐一Token生成的过程；而JEV模型是对候选项进行打分，给出相关的概率的可信度 - 输出形式
LLM输出的是自由文本，没有约束；而JEV模型的输出提前预定好，只能输出相关的类别和分数及概率 - 工作机制
LLM使用自回归生成，按顺序逐Token生成，响应速度较慢（秒级）；而JEV采用并行机制，一次输出所有结果，响应速度极快（约是前者的几十倍） - 幻觉
LLM的幻觉是无法避免的，只能尽量控制和减轻；而JEV输出严格限定在给定的选项内，很难出现 - 成本
传统的大模型不管输出和输出都需要消耗Token；而JEV则只有输入需要Token，输出则不需要 - 应用场景
传统的大模型更适合与交互式的应用，特别是代码、文档等的编写；而JEV更适合一些路由处理、评分及条件判断等的应用场景
四、分析
传统的大模型在进行决策时，需要将输出结果一个词一个词的生成，然后通过自回归技术不断迭代，并映射成一个固定大小词表长度，最后利用Softmax函数计算相关输出词的输出概率并最终挑选最高概率的进行输出，所以其速度相对要慢很多。而JEV模型做出一个决策，其只需要计算可选项与状态的得分，然后同样使用Softmax转化成每个选项的概率，最后一次输出，速度要快很多。这也是前面把传统的大模型称为"慢思考"而JEV模型则为"快思考"的原因。
不过需要说明的是JEV的特点是在快与准之间达到一个以快为主的平衡。而不会更准，这一点要明白。JEV没有幻觉，不代表不会有错误。如果预定的结果有问题，则有可能产生更严重的错误。而且，JEV只支持文本输入且choice字段候选上限数量为255；它不会规划、没有记忆，一旦出现异常就会像人一样开始瞎蒙答案。
JEV模型和大模型不是互相替代的。传统的LLM是一种普适的应用而JEV更适合于一些特定的决策场景。JEV并未实现传统LLM未实现的功能，并没有将大模型推高到一个新的程度。它只是完成了类决策场景的低成本、高响应的实现。
当然，争议还是不小的，JEV到底算不算是一种创新或者说是AI的泡沫，还得需要时间来进行判断。在AI发展日新月异的情况下，让子弹多飞一会儿是应该的。
五、总结
JEV模型将AI模型中的生成内容剥离，只关心判断这一目标。通过架构和训练目标的改进，在特定的场景下实现了传统大模型无法实现的速度与成本优势，为构建快速、低廉的自动化智能系统提供了基础支持。
JEV和LLM是一种互补的存在，二者的结合，可能会更好的解决当前AI大模型遇到的各种问题。