
选 Codex skill 框架时,最容易被速度或子 agent 数量带走。The Gray Cat 用同一个真实功能做对照。给视频剪辑应用加自动挑选屏幕录像 B-roll,五个隔离环境从同一份代码出发。配置分别是裸跑 Codex、pstack 的 Poteto、Every 的 Compound Engineering、Matt Pocock 的 skills,以及 Superpowers 7。编码模型统一为 GPT-6.1 Sol 中档 effort。墙钟大约从 27 分钟到近 4.5 小时,子 agent 数与 API 折算成本差出一个数量级。评审偏好并不跟着速度走,五版也都漏了部分需求。
本文把视频里的量级整理成可勾选的终裁表,并给一份模拟运行日志 CSV,脚本输出能用、限场景、不能用。正文不放外链。数字按视频转述,不编造独立测评分。

图注 五配置的墙钟、成本与终裁分层。
目标说明
读完你应能独立完成五件事。
- 用同一需求清单对比五类 Codex 配置,而不是只看演示速度。
- 记录墙钟、子 agent 数、折算成本、评审可合入性、需求覆盖与漏项。
- 输出能用、限场景、不能用三档终裁,并写清限场景的条件。
- 用模拟日志 CSV 复现终裁表,便于改权重后重跑。
- 把五版都漏需求写进验收预期,避免误判为某一框架万能。
适用与边界
适合这些场景。你要在团队里为 Codex 选默认 skill 框架;你关心多花 10 倍时间是否换来可合入质量;你需要把主观评审翻译成可复跑表格。
不适合这些场景。把单一创作者的一次同题实验当成工业基准。跨模型横评却不固定 harness 与需求清单。用子 agent 数量直接当质量分。
失败含义先说清楚。视频是单次真实功能对照,不是大规模随机试验。本目录 CSV 是教学用模拟覆盖,用来练习终裁流程。你的产品需求清单应替换 R1 到 R6。
视频量级,五配置对照
| 配置 | 墙钟约 | 子 agent 约 | API 折算约 | 评审印象 |
|---|---|---|---|---|
| Poteto | 27 分钟 | 较少 | 低 | 要大修 |
| 裸跑 | 35 分钟 | 0 | 约 2 美元 | 要大修 |
| Compound | 约 1.5 小时 | 26 | 更高 | 可参考 |
| Pocock | 约 2.5 小时 | 16 | 更高 | 可参考 |
| Superpowers | 近 4.5 小时 | 34 | 约 25 美元 | 评审靠前 |
视频还提到,子 agent 多不等于 token 一定多,实际计费也可能走订阅。终裁时要把订阅体感和API 折算分开写,避免把不可比的成本塞进同一列。
同题需求清单
本目录模拟六项需求,对应「自动挑屏幕录像 B-roll」这类功能的可验收切片。
- R1 扫描素材目录
- R2 按镜头类型打标
- R3 挑出屏幕录像片段
- R4 写入时间线标记
- R5 导出可复查清单
- R6 不改原片音轨
五版在模拟里都有漏项。这与视频「五版都漏部分需求」的结论同向。终裁不能只看谁跑得完,还要看漏的是不是合并阻断项。
离线实验,日志到终裁表
text
config wall subs usd cover miss verdict
裸跑 35 0 2.0 0.67 写入时间线标记;导出可复查清单 不能用
Poteto 27 4 3.0 0.67 写入时间线标记;导出可复查清单 不能用
Compound 90 26 12.0 0.83 导出可复查清单 限场景
Pocock 150 16 18.0 0.83 不改原片音轨 限场景
Superpowers 270 34 25.0 0.83 不改原片音轨 限场景
脚本读 _w/codex-pick-smoke/run_log.csv,写出 verdict.csv。规则在演示里取了保守档。评审要大修或覆盖过低,判不能用。能跑完且有漏项或成本很高,判限场景。没有任何一档被轻易标成无条件能用,因为同题五版都有漏项。
终裁表
| 配置 | 终裁 | 限场景条件或原因 |
|---|---|---|
| 裸跑 | 不能用 | 快,但评审要大修,关键交付项易漏 |
| Poteto | 不能用 | 更快,同样偏要大修 |
| Compound | 限场景 | 可作中间方案,需补齐复查清单等漏项 |
| Pocock | 限场景 | 工单与 worktree 流程完整,仍要验收音轨等约束 |
| Superpowers | 限场景 | 评审最可用,适合作为修 bug 后合入的基底,成本高 |
视频作者的合入策略,是以 Superpowers 版为基础修 bug 后再进主干。这与限场景一致。限的是直接当默认无检合入;不限的是当你愿意付时间和费用换更高起点。
生产禁区表
| 编号 | 禁区 | 证据 | 替代做法 |
|---|---|---|---|
| D1 | 只凭墙钟选框架 | 最快两版要大修 | 绑定需求覆盖与评审 |
| D2 | 子 agent 数当质量分 | 多不等于更好合入 | 看漏项与可复查产物 |
| D3 | 忽略全员漏需求 | 五版均有漏项 | 需求清单进验收 |
| D4 | 成本口径混用 | 订阅与 API 折算不同 | 分列记录 |
| D5 | 一次实验定终身 | 单次同题对照 | 换一题复测再固化默认 |
验收清单
- 同题、同模型档位、隔离环境。
- 需求清单事先写好,不允许跑完后改判定。
- 记录墙钟、子 agent、成本口径、漏项、评审。
- 终裁只有能用、限场景、不能用三档,限场景必须写条件。
- CI 或本地可重跑
_w/codex-pick-smoke/smoke.py。
当天 30 分钟落地
- 5 分钟,写下你们自己的 R1 到 R6。
- 10 分钟,用两套配置各跑一次最小切片。
- 5 分钟,填 CSV 并生成终裁表。
- 5 分钟,把不能用的配置移出默认模板。
- 5 分钟,指定一个限场景配置作为高质量基底。
常见误判
- 「最快的框架最适合日更」。日更若以可合入为准,最快两版在本对照里并不占优。
- 「Superpowers 又慢又贵所以不该用」。它可以是基底,而不是每次敲一行代码的默认。
- 「有 26 个子 agent 就说明拆解科学」。还要看漏项是不是恰好落在合并阻断上。
- 「视频结论可以直接写进公司制度」。先用你们的仓库复测一题。
与成本相关的写法
对外分享或对内汇报时,同时给出 API 折算与实际订阅体验。只报其中一个,读者会以为另一口径也成立。视频里裸跑大约 2 美元、Superpowers 大约 25 美元的折算,适合用来建立数量级直觉,不适合直接写进财务预算而无本团队复测。
如何把视频结论变成团队模板
先冻结一题。题目要能在两小时内跑完最小切片,又要足够真实,避免玩具题。再冻结模型档位与 effort。然后只改框架配置。跑完后不允许回改需求清单,只能新增下一轮题目。
模板里固定六列。墙钟、子 agent、成本口径、覆盖率、漏项、评审。终裁列只允许三个词。能用、限场景、不能用。限场景必须另有一列写条件,例如仅作基底、仅限非紧急需求、仅限有人值守复审。
漏项分级
不是所有漏项同权。阻断合入的漏项,例如破坏原片音轨、无复查清单导致无法审计,应直接拉低终裁。可后补的漏项,例如某一类镜头打标不全,可以留在限场景条件里,要求合入前补齐。
把漏项分级写进需求清单备注,评审就不必每次从零争论。视频里五版都漏需求,正好说明跑完和可合入之间还差一张分级表。
与隔离环境有关的细节
对照实验必须隔离。共用一个全局 skill 缓存或共用工作树,会把框架差异污染成环境差异。每个配置一份工作目录、一份依赖锁、一份日志根。跑完打包日志与 diff 统计,再人工抽查。脚本终裁只是第一层,抽查负责抓住看起来覆盖了、实际是假完成的样本。
复测节奏
默认框架每季度至少复测一题。模型档位大变、skill 包大变、或线上返工率升高时加测。复测题目尽量与上轮不同,避免框架对单题过拟合。把 CSV 与终裁表进版本库,讨论时先打开表,再谈体感。
和个人习惯的关系
有人习惯裸跑快速试错,再切到重框架出合入候选。这是工作流问题,不是单一默认值问题。团队文档应写清两段。探索默认与合入默认可以不同。视频对照恰好说明,把探索默认误当成合入默认,会把要大修的结果送进主干。
把终裁写进默认模板
选定限场景基底后,把 skill 集合、默认指令、检查清单写进仓库模板。新人克隆就能用同一套。裸跑入口可以保留在实验目录,但不要和合入流水线共用。发布流水线只接受基底配置产物,或接受通过同一需求清单验收的分支。
若有人用更快配置交出 PR,评审按同一漏项表打回,而不是凭印象说看起来也能用。终裁表的价值,就是让这种打回不变成对人对事的扯皮。
附录式操作说明
准备五份隔离目录。每份放入同一提交的代码快照。按配置安装 skill 或框架。用同一提示词描述 B-roll 功能。记录开始与结束时间、子 agent 计数、费用口径、人工评审笔记。跑完后用需求清单打勾,生成 CSV,再跑本目录脚本。若你的计数方式与视频不同,在表头注明,不要强行对齐到某一公众数字。
总结
Codex skill 框架的选型终裁,应建立在同题、同模型档位、可勾选需求清单之上。速度、子 agent 数、折算成本都只是列,不是结论本身。对本对照,裸跑与 Poteto 更接近不能用;Compound、Pocock、Superpowers 更接近限场景,其中 Superpowers 适合作为修 bug 后合入的基底。把 CSV 留在仓库里,换题时重跑,默认配置才站得住。