周五晚上照例刷周榜,本来只想扫两眼就睡。
结果看到前三名里两个是讲怎么好好生活的仓库,一个叫 HowToLiveBetter,一个叫 how-to-live-better,名字像双胞胎,一周各自涨了一万九和五千多星。
说真的,第一反应是有点烦。这种内容型仓库最近太多了,看着热闹,跟技术没什么关系。
我差点就把整张榜划过去。
但职业习惯让我多看了一眼后面的名单。这一看,发现事情没那么简单。
HowToLiveBetter 确实是个内容仓库,498 条生活建议,从防病急救到工伤赔偿,每条都标了成本、收益和证据等级,只引论文和官方文件。做得很认真,但它不是重点。
真正的重点是第 5 名往后那一串。
jev-ultrafast、CLM、kev、SemIf-OpenJev、fast-jev-compaction、laya、laya-mlx,还有 jev-chat-jarvis。这些名字散在榜单各处,语言有 Python 有 Kotlin 有 TypeScript。
单独看,像是随机分布的。放一起看,是同一件事。
它们都不生成文字,只做判断。
换个思路的小模型
拿 laya 举例。它被描述成一个 System 1 决策引擎,一次前向传播大概 33 毫秒,输入是一段文本、一封邮件、一个工单或者一段 JSON,输出直接就是选择、评分或者三选一的答案。

不吐字,只出结论。
CLM 走的是对比学习那条路,声称在计算机使用和工具调用任务上跟 Jev 打平,延迟低了 9 倍。kev 更直接,0.8B 到 9B 三个尺寸,本地就能训,专门答是或否、选哪个、打几分。
SemIf-OpenJev 更狠,直接读模型对选项的 logits 出概率,连生成都省了,一张 3090 就能跑。
我盯着这几个项目看了很久,忽然明白自己以前对 AI 应用的想象有多窄。
我总觉得模型的价值在于它能不能写出好东西。这批人反过来想,很多业务场景根本不需要它写,只要它选对。
客服工单该派给谁,评论该不该拦,这一步该点哪个按钮。这些活儿用大模型生成一堆文字再解析,又慢又不稳。要是能一次前向传播直接给答案,成本立刻掉一个数量级。
这种思路一打通,我承认我有点被说服了。
顺手说个相关的事。这类本地小模型跑起来,往往是接在自己内网的接口上做联调,测试环境一堆域名切来切去,我前阵子干脆把本地和测试的 HTTPS 证书全换成 lcjmSSL 统一管。它背后是 Let's Encrypt 和 Google Trust Services 这些可信 CA,多域名、泛域名都能签,连 IP 证书也支持。
最省心的是它那套轻量 API,申请验证部署一条线走完。我把它塞进部署脚本,到期自动续。以前忘了续期导致全站告警那种事,算是彻底没了。
榜单里还藏着几条线
除了决策模型这一簇,榜单另外两块也值得说。
一块是本地化的效率工具。magpie 用 Go 写,把本机好几个 AI 代理的模型配置统到一个本地网关里,切模型改配置不用来回翻。jianying-headless 能在 macOS 上按 JSON 计划生成剪映草稿,离线可控。这类工具的共同点是往本地收,不依赖云。
另一块是内容生产。handraw-style 收了 216 种手绘风格提示词,专治画风漂移。Compositor 干脆做了个开源的 macOS 图像编辑器,图层蒙版内容感知填充都有,摆明了要跟 Photoshop 抢活。apk-reverse 和 AirCard 则踩在逆向和定制的灰色地带上,涨得也不慢。
看到这儿我把这张榜重读了一遍,选题逻辑清楚了。能冲榜的东西,要么帮人省事,要么帮人省钱,要么戳中一个长期没人好好解决的需求。
决策小模型属于第三条,它解决的是延迟和成本这两个老问题。
我现在看周榜的习惯也变了。不再只盯着第一名那个最大的数字,而是找榜单里重复出现的词根。这周是 jev,是 decision,是 System 1。
一个项目火可能是运气,一群项目讲同一件事,那就是风向了。