arena· @arena · X·· 3 小时前AI 评分
Agent Arena 对比 20,869 条轨迹,揭示前沿编码智能体的用户反馈差异
Arena 基于 20,869 条 Agent Arena 轨迹,比较了 Anthropic 与 OpenAI 的五款顶尖模型与其他智能体的用户批评差异。结果显示,在出现抱怨的会话中,前沿模型的修复循环失败占比低 6.9 个百分点,设计和产出可用结果的问题分别低 6.4 和 5.8 个百分点,遵循指令、完成任务及破坏既有工作的批评分别低 5.6、4.9 和 4.5 个百分点。
用户究竟在哪里能切实感受到前沿编程智能体的差异?
我们分析了 Agent Arena 上 20,869 条轨迹,比较用户对 Agent Arena: Code 中排名前五的模型(全部来自 @AnthropicAI 和 @OpenAI)的批评,以及他们对其他智能体的批评。
以下是前沿模型最能体现差异的 3 个方面:
1. 更少陷入困境:在有投诉的会话中,修复失败循环出现的频率低了 6.9 个百分点,项目上下文被忽略的情况也更少(-1.9 个百分点)。你花在引导智能体走出死胡同上的时间更少了。
2. 更好的品味和真正可用的代码:它们在设计方面表现更好(-6.4 个百分点),产出可运行成果的能力也更强(-5.8 个百分点)。你拿回来的结果更有可能正是你想要的。
3. 更尽职:它们更好地遵循指令(-5.6 个百分点),更经常完成工作(-4.9 个百分点),也更少破坏已有成果(-4.5 个百分点)。之后需要清理的东西更少了。
想进一步了解 Agent Arena 的赞扬与投诉信号之间的差异?请查看下方线程中的文章。
来源:arena · x.com