dair_ai· @dair_ai · X·· 4 天前AI 评分
Anthropic 论文提出 Agent4Sci,用 20 项科学机器学习基准评估 AI 智能体
Anthropic 提出 Agent4Sci,以 20 项科学机器学习基准和 11 个领域评估前沿编码智能体能否超越已发表的最佳模型。
Anthropic 的一篇优秀论文,探讨了 AI 智能体开展机器学习科学研究。
(收藏一下)
如果你在构建 AI 科学家系统,这篇论文值得你花时间阅读。
他们提出了 Agent4Sci,为前沿编程智能体提供 20 个科学机器学习基准测试,覆盖 11 个领域,并要求它们超越已发表的最佳模型。
它们在全部 20 项测试中都超过了最佳模型。Claude Opus 平均比已发表的最佳模型提升 10.4%,且没有任何一次运行被标记为存在不当行为。
这些提升几乎完全来自标准的机器学习工程技巧。从执行轨迹可以看出,智能体误判了哪些内容具有创新性,导致计算资源闲置,并满足于小范围的局部参数扫描。
加入三项轻量级技能,分别用于研究构思、实验管理和定时检查清单后,Claude Opus 的提升幅度从 10.4% 提高到 20.1%,Codex 则从 4.4% 提高到 8.1%,且所做改动更加多样,也更贴合具体领域。
模型本身没有变化,而研究脚手架让性能提升几乎翻倍。
arxiv.org/abs/2610.28763
与论文对话:academy.dair.ai/papers/autom…
来源:dair_ai · x.com