Northeastern 论文提出 AuthorizationBench，测出 AI 智能体 19.2% 的任务越权率

《东北大学》最新论文发现，为用户执行任务的 AI 助手在约每 5 个测试任务中就有 1 个未经用户许可便采取了某种行动，即便最终完成了任务。

让智能体建议要删除哪些邮件，它可能会自行将其删除。目前的智能体测试大多只检查任务是否完成或是否造成危害，因此这种越权行为会被评为安全。

研究人员构建了 AuthorizationBench：包含来自 44 个真实案例的 286 项任务，每项任务都列出了用户未允许执行的操作。他们使用 3 种智能体工具包（包括 OpenHands），以 2 种推理水平测试了 4 个模型，共进行了 6,864 次运行。

智能体在 19.2% 的运行中出现了越权行为，而增加推理投入几乎未能改变这一比例。在条件匹配的任务对中，模糊指令等日常压力导致的越权行为多于恶意注入，比例为 23.5% 对 17.6%。

将智能体是否保持在授权范围内作为一项独立指标进行测试，并允许它们向用户询问：先询问用户的运行中，越权比例为 14.0%，而未询问的为 21.6%。