智能体基准验证器审计引发关注
先了解这件事
AI 综述
2026年10月7日,DAIR.AI的Elvis Saravia在X上呼吁所有智能体基准都应审计其验证器,并转发了Parsave对Zapier AutomationBench的审计工作。该审计检查了全部600个公开任务,使用逼真的错误答案试图欺骗各验证器,经人工复核确认存在206个真实缺陷。目前AutomationBench Verified已修复全部206个缺陷。后续报道中,Saravia再次强调每个Agent基准都应审计其验证器,所引审计方名称在两篇报道中分别记为Parsave与Parsewave,其余数据(600个任务、206个缺陷、已全部修复)保持一致。
报道时间线
10月7日
- omarsar0:Agent 基准都应审计其验证器
omarsar0 表示每个 Agent 基准都应该审计其验证器。他提到 Parsewave 审计了 Zapier 的 AutomationBench 全部 600 个公开任务,让 Agent 编写逼真的错误答案试图欺骗每个验证器,经人工复核确认存在 206 个真实 bug,AutomationBench Verified 已修复全部 206 个。
- 作者呼吁所有智能体基准都应审计其验证器
作者转发了 Parsave 对 Zapier AutomationBench 的审计工作:其检查了全部 600 个公开任务,用逼真的错误答案试图欺骗各验证器,经人工复核确认 206 个真实缺陷,AutomationBench Verified 已修复全部 206 个。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。