山东大学研究:代码智能体的复杂 harness 主要提升 token 消耗而非性能

山东大学的 Liu 和 Han 测试了三种代码智能体 harness(Claude Code、OpenCode 和 mini-SWE-agent),发现复杂框架并未改善模型的实际编程能力,主要区别在于消耗了更多 token。所有测试均在离线环境下进行。

研究覆盖了 Qwen3.6、Qwen3.8、Deepseek-V4-Flash、GLM-5.3-Flash 和 HY4-Preview 五个模型。论文标题直接给出结论:harness 买到的主要是 token(What does a harness buy? Mostly tokens)。

性能差异来自配置而非框架

Claude Opus 5 仅在 Claude Code 中作为参考运行。研究者移除 Claude Code 的工具调用功能后,Claude Opus 5 的结果没有变化,说明复杂的工具集成对该模型无实质影响。

OpenCode 的性能差距中,约一半可以追溯到输出限制这一配置参数。研究还在 Terminal-Bench 2.1 上进行了小规模交叉检查,结果显示相同模式。

数据与复现

数据和分析脚本已在 GitHub 上公开,支持对实验结果的验证。研究未涉及 harness 对推理速度或错误恢复能力的影响,仅聚焦于最终解题率与资源消耗的对比。

原文地址:tools.wflynn.cn/aitools/tre...

关注公众号「YourTools」,每天推送 GitHub 趋势与开源工具速报:

相关推荐
2601_965619692 小时前
没时间给开源项目做宣传?AI自动化生成整套物料
人工智能·开源·自动化
DisonTangor2 小时前
MOSS-Image-Base 实战:从文生图到 JSON 布局精准控图
人工智能·ai作画·开源·aigc·1024程序员节
舰长1153 小时前
将百万数据插入到 Redis,有哪些实现方案?
数据结构·redis·开源
分布式存储与RustFS3 小时前
机器要下线,数据先线上搬家:RustFS 存储池退役实操
运维·云原生·开源·对象存储·分布式存储·s3·性能基准
35岁程序员的自救之路5 小时前
10个开源免费的社区系统推荐
开源
wflynn6 小时前
GitHub 今日推荐|dquickts:能暂停、能存档的 QuickJS
开源·github·c·durable-execution·embeddable·hibernation
Bigger6 小时前
PR 没被合并,我把 Tauri 版自己做出来了:安装包从 100MB 砍到 33MB
开源·ai编程·掘金社区
文慧的科技江湖6 小时前
2026年10月24日智慧农业行业早报:模型数到175个,棚里的账还按年算
开源·智慧农业·农业物联网·数字乡村·1024程序员节·农业机器人·农业数字化
TTATTC7 小时前
为什么 Python 做 Agent 总在并发中崩溃?拆解 Blockcell 在 Rust 下的 Host-Cell 隔离与自愈状态机
docker·开源