dair_ai· @dair_ai · X·· 12 小时前AI 评分
研究:同一模型下 agent harness 差异可使成本最高降 3 倍
DAIR.AI 推荐一篇论文,研究模型不变时 agent harness 会带来什么变化。作者用同一模型在 SWE-bench Verified 上运行 Claude Code。
一篇很有用的论文,探讨在模型保持不变的情况下,智能体框架(harness)会带来哪些变化。
其中一个要点是:保持你的框架提示词和工具尽量精简。
在这项研究中,这样做最多可以将成本降低 3 倍,同时不会降低准确率。
作者使用同一个模型,在 SWE-bench Verified 上运行了 Claude Code、mini-SWE-agent 和 OpenCode。Claude Code 和 mini-SWE-agent 在 447 个任务上的得分相差不到 5 分。
更换框架对结果的影响,与重新运行一次框架的影响大致相当。在一个包含 45 个难题的子集上,两者都翻转了 13% 的任务结果。
成本差异来自系统提示词和工具 schema,每个框架在每一步都会重新发送这些内容。智能体执行的步骤越多,你需要为它们付费的次数就越多。
论文:academy.dair.ai/papers/what-…
来源:dair_ai · x.com