arcprize· @arcprize · X·· 2 小时前AI 评分
ARC Prize 公布 Argon 在 ARC-AGI-3 标准 harness 下的分数与测试限制
ARC Prize 公布 Argon 在 ARC-AGI-3 标准 harness 下的成绩:low reasoning 49.8%(55 个游戏完成 42 个)、medium reasoning 46.3%(完成 46 个),high reasoning 仅完成 19 个游戏故未公布分数。
除了使用供应商适配器框架(该框架保留不透明的推理过程并支持自动压缩)在 ARC-AGI-3 上表现出色之外,Argon 在使用标准框架(该框架允许模型在各轮之间传递笔记)时取得的高分同样引人注目。
然而,我们遇到了 API 问题,导致无法完成使用标准框架的测试:
- 低推理强度:49.8%,在 55 个游戏中完成了 42 个
- 中推理强度:46.3%,在 55 个游戏中完成了 46 个
- 高推理强度:仅在 55 个游戏中完成了 19 个,因此我们没有公布分数
公布的分数涵盖了全部 55 个游戏,并保留了未完成运行中获得的部分分数。
我们使用当前的入门价格——每百万 token 输入 $10、输出 $10——来计算成本。
完整结果:arcprize.org/results/google…
来源:arcprize · x.com