类Jev项目Kev从入门到实战(1):Kev 是什么——不开权重也能自训的决策模型

PART 1|Kev 是什么

一句话

Kev 是 jaredpalmer 开源的「Jev 类小决策模型」家族------在 Qwen 底座上加 LoRA 适配器 + 指针头,不做文本生成,只做打分决策 :一次前向传播,对一段文本上的一组类型化问题各输出一个概率分布。

官方定位(仓库 pyproject 原文):

"Laptop-scale reconstruction of a Jev-style decision model with a TypeSafe-compatible /v1/systemone API"

仓库地址:github.com/jaredpalmer/kev(Apache-2.0)。

三个关键属性

  1. API 与 TypeSafe 的 Jev 完全兼容 。Jev(TypeSafe 官方托管 API)的 /v1/systemone 协议------noul(是非判断)/ choice(多选一)/ score(有序打分)三原语------Kev 原样实现。TypeSafe Python SDK 不改一行代码,把 base_url 指向本地 Kev 服务就能用。
  2. 可自己训 。0.5B 到 27B 多代权重与全部训练代码开源,kev.train / kev.serve / kev.benchmark 是三个核心入口,训练数据就是带 label 的 JSONL。
  3. 笔记本级可跑可训 。0.8B 档在任何 Apple Silicon Mac 或 4GB 显存 GPU 上可推理可微调。我在 RTX 3060 Laptop(6GB)上实测微调 0.6B LoRA,峰值显存 1.71GB,1 epoch 378 步约 31 分钟。

背景:Jev → 架构逆向 → Kev

  • Jev (TypeSafe 官方):托管决策模型 API,不开放权重,且不对中国大陆开放(我调研阶段实测核实过)。
  • 2026 年 9 月,Archer Hume 发布《Jev's Architecture Unmasked》,逆向出了它的架构:attention-only 底座 + 问题隔离 + 指针头。
  • Kev(jaredpalmer)按这份逆向架构复刻,底座用 Qwen 系列:0.5B(Qwen2.5,原型)→ 0.6B/0.8B(Qwen3/Qwen3.5)→ 4B/9B → 27B(Qwen3.8 post-trained)。每一代 model card 都有冻结评测协议下的完整指标。

官方指标一览

模型 底座 域外准确率* 门槛
Kev-0.8B Qwen3.5-0.8B-Base 0.648 / 0.697 Apple Silicon / L4
Kev-4B Qwen3.5-4B-Base 0.817 / 0.838 32GB Mac / L40S / H100
Kev-9B Qwen3.5-9B-Base 0.822 / 0.852 32GB Mac / L40S / H100
Kev-27B Qwen3.8-27B 0.848 / 0.896 B200 / H200 / H100 80GB
Jev 托管 0.857 / -- TypeSafe API

* dev / test 两列,「域外」指模型训练时从没见过的数据源------最接近你自己业务的口径。Kev-27B 与 Jev 官方差距 1 个点以内,而 Kev-4B/9B 差距约 4 个点,0.8B 差距 16 个点。

它和 ChatGPT 这类生成式模型差在哪

决策模型的输出不是文字,而是概率分布。你给它一段文本(state)和一组问题,它回答的是:「这三个选项的概率分别是 47% / 28% / 25%」「这是紧急事件的概率 93%」「愤怒等级期望值 1.44」。这意味着:

  • 你的代码可以对高置信度自动执行、低置信度转人工,阈值路由是第一公民;
  • 没有幻觉文本,没有采样随机性,同一个输入永远同一个输出;
  • 一次请求可以塞任意多个问题,state 只编码一次,吞吐远高于让 LLM 逐条生成回答。

典型场景:工单分诊(分派给哪个团队 + 是否升级 + 用户情绪打分,一个请求全答完)、内容审核、意图分类、以及我做的------在知识图谱导航中「接下来该选哪个节点」的多跳决策。

相关推荐
小蒋观天下1 小时前
行业拆解|两轮车检测AI摄像头的核心技术迭代、产品演进及未来技术发展
大数据·人工智能·安全·计算机视觉·ai大模型
nhdh1 小时前
SpringAI与SpringAIAlibaba:标准与生态的完美互补
java·人工智能·spring
风巽·剑染春水1 小时前
【医学AI前沿】(NPJ-DM-2026)利用身份保持去噪扩散生成对抗网络预测阿尔茨海默病进展
人工智能·生成对抗网络·扩散模型·mri
天空'之城1 小时前
2026 人工智能下半场:褪去大模型喧嚣,AI 从范式革命走向产业深水区
人工智能·新质生产力·ai 工程化·ai 智能体·2026 ai 趋势
leihefeng1 小时前
PX06-对比两个 Excel 文件的差异:从逐单元格到生产级实现
python·excel
2601_962177301 小时前
小白安装Claude Code完整教程:Windows从零装好并接入Crazyrouter(附403解决方法)
人工智能·深度学习·目标检测·机器学习·数据挖掘
m4Rk_1 小时前
【论文阅读】Agent 记忆机制(82):ReasoningBank——从成功与失败经验中沉淀可复用的推理记忆
论文阅读·人工智能·学习·开源·github
XMAIPC_Robot1 小时前
为什么大型储能需要边缘 AI 协调控制器?RK3588+FPGA 高速采集方案
人工智能·嵌入式硬件·fpga开发·arm+fpga·rk3588+fpga·协调控制器
xx_xxxxx_1 小时前
论文阅读-CoTTA
人工智能·深度学习·机器学习