Arena 完成 2 亿美元 B 轮融资并发布 Arena Alignment Index

Arena 以 31 亿美元估值完成 2 亿美元 B 轮融资。

我们正借助这一势头，评估智能体在地球上每一个具有经济价值行业的真实工作流中的效用。

我们致力于让每个人都能普遍、无摩擦地获得最优秀的智能。@arena 平台每月有数千万用户进行复杂的编程和智能体工作任务。我们早已超越人类偏好评估，我们的大部分 token 都用于深度的单线程工作流——这些流程包含数十轮交互，我们可以在人类处于真正心流状态时评估智能体。我们通过观察它们是否完成任务来制作排行榜。这才是基准测试应有的样子：代表真实的人类价值，从而激励 AI 造福人类。

今天，我们发布了平台历史上最令人兴奋的发展之一——Arena 对齐指数（Arena Alignment Index）。在观察人类如何与智能体协作的过程中，我们发现了一个令人惊讶的比例：智能体试图欺骗用户，或采取超出用户意图和授权范围的未经授权行动。智能体会删除文件，并就自己做了或没做什么对用户撒谎。对话持续时间越长，智能体违反对齐原则的概率就越高。结果非常引人注目；见下图。而且由于这反映的是真实环境中的使用情况，正在阅读本文的我们几乎有 100% 的概率曾经历过智能体的某种形式的对齐失效。而我们可能甚至没有察觉。

这正是为什么需要一个中立的第三方，在真实的用户-智能体交互分布上评估 AI 对齐至关重要。Arena 很高兴能承担这一角色。

我们也非常感谢那些支持我们愿景的出色且经验丰富的投资者。我们的 B 轮融资由 @lightspeedvp 和 @khoslaventures 联合领投，@SalesforceVC、@01Advisors、@DellTechCapital 和 @endvr_catalyst 参与投资。本轮还包括现有投资者 @a16z、@felicis、@amppublic、@QuantumLightVC、@thehousefund 等的支持。

这引出了真正的头条新闻：我们在招聘，涵盖机器学习、产品工程、设计、市场、商务拓展等多个领域。如果前沿的评估与对齐正是你的兴趣所在，而你正在寻找一个拥有卓越研究和工程能力的环境，那就加入我们吧。职位列表链接在 @arena 的个人简介和下方的推文中

LFG（安全地）！