跳到正文
原文
ArtificialAnlys· @ArtificialAnlys · X·· 4 小时前AI 评分61

Artificial Analysis 发布 AA-3D 基准:21 个模型按 Elo 排名构建交互式 3D 场景

AI 导读

Artificial Analysis 发布新基准 AA-3D,评测 AI 模型构建交互式 3D 场景的能力,21 个模型按 Elo 排名。

正文 · AI 翻译

我们已经测量了智能。现在是时候看看它了。

我们正在发布 AA-3D,这是我们新的基准测试,用于衡量 AI 模型构建交互式 3D 场景的能力。每个模型都作为智能体在离线沙盒中工作,将一份文字简报转化为一个 three.js 网页。由人类评委组成的评审团对比由同一份简报构建的成对场景,且不知道哪个模型构建了哪个场景。

AA-3D 详情:

➤ 55 份文字简报,涵盖七个领域,包括地标、机器、生命体、游戏和太空。每份简报都说明场景必须展示什么以及人们应该如何与之交互,其余部分留给模型自行发挥

➤ 每个模型最多有三小时和 250 轮交互。其沙盒中包含 Blender、Rapier 物理引擎、Python、一个用于测试自身作品的无头浏览器,以及一个 CC0 授权的材质、3D 模型和角色库

➤ 评审员在投票前至少会花 30 秒体验每个场景。每四次对比中就有一次是有效性校验

➤ 来自 1,000 多名评审员的 10,000 多张有效投票,以 Elo 评分对 21 个模型进行排名,并给出 95% 置信区间

主要发现:

➤ 四个模型在统计上并列第一:Claude Sonnet 5.5(1194)、Claude Opus 5.5(1190)、GPT-6 Astra(1165)和 Claude Fable 5.1(1131)。其余三个模型的 95% 置信区间与 Claude Sonnet 5.5 的区间重叠

➤ AA-3D 的 Elo 分数随智能水平上升:Artificial Analysis 智能指数上的每一分约值 18 个 Elo 分(皮尔逊相关系数 0.92)

➤ 排名最高的开源权重模型 Kimi K3(982)和 MiMo-V2.6-Pro(977)分别位列第 11 和第 12 名,落后第一名 200 多分

➤ 构建一个场景的成本在 0.20 美元到 32.08 美元之间,具体取决于模型。最便宜的 GPT-6 Luna 排名第八

更多结果、更多场景以及 AA-3D 的工作原理,请见下方推文串。

来源:ArtificialAnlys · x.com