山东大学研究:代码智能体的复杂 harness 主要提升 token 消耗而非性能

山东大学的 Liu 和 Han 测试了三种代码智能体 harness(Claude Code、OpenCode 和 mini-SWE-agent),发现复杂框架并未改善模型的实际编程能力,主要区别在于消耗了更多 token。所有测试均在离线环境下进行。

研究覆盖了 Qwen3.6、Qwen3.8、Deepseek-V4-Flash、GLM-5.3-Flash 和 HY4-Preview 五个模型。论文标题直接给出结论:harness 买到的主要是 token(What does a harness buy? Mostly tokens)。

性能差异来自配置而非框架

Claude Opus 5 仅在 Claude Code 中作为参考运行。研究者移除 Claude Code 的工具调用功能后,Claude Opus 5 的结果没有变化,说明复杂的工具集成对该模型无实质影响。

OpenCode 的性能差距中,约一半可以追溯到输出限制这一配置参数。研究还在 Terminal-Bench 2.1 上进行了小规模交叉检查,结果显示相同模式。

数据与复现

数据和分析脚本已在 GitHub 上公开,支持对实验结果的验证。研究未涉及 harness 对推理速度或错误恢复能力的影响,仅聚焦于最终解题率与资源消耗的对比。

原文地址:tools.wflynn.cn/aitools/tre...

关注公众号「YourTools」,每天推送 GitHub 趋势与开源工具速报:

相关推荐
AllData公司负责人4 分钟前
AI大模型数据开发底座系列说明书,AllData集成Chat2DB开源项目建设AI 数据库分析底座,涵盖AI 洞察/对话SQL/智能视图!
数据库·人工智能·sql·开源·ai 洞察·对话sql
冬奇Lab3 小时前
一天一个开源项目(第260篇):Plannotator —— 给 AI 编码 Agent 配一块「可批注的审阅台」,计划和代码改动都能在浏览器里逐条批示
人工智能·开源·claude
wangruofeng3 小时前
同一行代码,百种渲染:Asuka、React Native 与 Flutter 跨平台渲染机制深度拆解
前端·github
杨凯凡5 小时前
IT日报|2026-11-13:GitHub 大规模凭据攻击、Signal 形式化验证、Claude 新模型与 AI 安全诉讼
人工智能·安全·github
liuzheng66218 小时前
我给 Agent 测试注入了 72 种谎话,它抓住了 44 种
github
炫酷的大高个12 小时前
98% 连跑 20 次只剩 67%,我算了大模型重试账
人工智能·架构·开源
分布式存储与RustFS13 小时前
镜像仓库的层别只堆本地盘:用 RustFS 给 Harbor 当 S3 后端
运维·云原生·开源·对象存储·分布式存储·s3·性能基准
feasibility.15 小时前
一物降一物?AI逆向没有终局:REA拆App,BLA设套,LASIK清场
人工智能·爬虫·github·逆向·skill·rea
IT古董16 小时前
AI 资讯日报 | 2026年10月25日:Kimi K3.1 Pro开源逼近前沿,OpenAI改离线训练,Claude合并Cowork,神经网络黑箱获新解,具身智能竞技场落幕
人工智能·神经网络·开源
分布式存储与RustFS16 小时前
工作流脚本和依赖 JAR 散在各节点本地盘:用 DolphinScheduler 资源中心接到 RustFS
运维·云原生·开源·对象存储·分布式存储·s3·性能基准