跳到正文
原文
rohanpaul_ai· @rohanpaul_ai · X·· 3 小时前AI 评分59

SemiAnalysis 发布 GDPx 智能体专家工作评测基准

AI 导读

SemiAnalysis 发布 GDPx 基准,通过 11 个领域、14 家专业数据伙伴提供的任务评测 AI 智能体处理专家工作的能力。Anthropic 的 Claude Opus 5.5 平均得分 12%,Google 的 Gemini 4 Carbon 为 10.9%,OpenAI 的 GPT-6 Astra 在 AI 研究和材料科学任务中领先。

正文 · AI 翻译

SemiAnalysis 发布了 GDPx,这是一项测试 AI 智能体在 11 个领域专家级工作上表现的基准测试。

排名最高的模型是 Anthropic 的 Claude Opus 5.5,平均得分仅为 12%,Google 的 Gemini 4 Carbon 以 10.9% 位列其后。

OpenAI 的 GPT-6 Astra 在 AI 研究和材料科学任务中位居榜首。

这些任务涵盖芯片设计、网络安全、金融和法律等领域,来自 14 家专业数据合作伙伴。

与 OpenAI 的 GDPval 不同,后者会在提示词中向模型提供上下文;GDPx 则让智能体深入检索工作区,例如一个包含 3,983 个文件的真实收购案副本。

如果排除网络安全、生物学和模型对齐任务——安全分类器有时会在这些任务中介入——OpenAI 的 GPT-6 Astra 的得分会从 9.6% 提升至 11.8%,超过 Opus。

金融和法律任务难倒了所有模型:在二元评分标准下,所有模型的得分均为 0,因此 GDPx 会报告部分得分。

当被要求改进一个可行的交易策略时,模型在 111 次尝试中有 70 次表现不及原策略,而且往往只是承担了更大的风险,而没有找到更好的交易机会。

来源:rohanpaul_ai · x.com