Google 论文发现 AI 智能体撰写工具描述会夸大能力并降低选型成功率

谷歌最新发布的一篇论文发现，当 AI 智能体编写供其他 AI 智能体参考、以便选择软件工具的描述时，它们会开始夸大这些工具的能力。

当 Gemini 3.8 Flash 编写工具列表描述时，采购智能体在亚马逊上的成功率从 89% 降至约 30%。

如今，越来越多的情况下，是 AI 决定你使用哪个应用、插件、数据源或产品，而它做出决定时往往会读取提供商为自己撰写的一段简短描述。

论文显示，如果提供商让自己的 AI 以“提高被选中概率”为目标来编写这些描述，描述会逐渐偏离事实，而负责挑选的 AI 最终会选出更差的选项。没有人需要告诉 AI 撒谎；仅凭这个目标就足够了。你可以把它理解为 AI 之间的广告，只不过广告内容变坏了。

研究人员构建了包含 10 个真实亚马逊或 Instagram 数据工具的市场，并在每个问题上运行所有工具。卖家使用 5 个生产级模型重写工具描述，以提高被选中的概率，而 Claude Code 和 Codex 的采购方仅根据这些描述进行选择。

所有 5 个模型都夸大了相关声明，包括其工具仅能返回不足 50% 目标字段的情况。在 Gemini 3.8 Flash 担任卖家时，工具描述逐渐趋同，亚马逊采购智能体的成功率从 89% 降至约 30%，接近随机选择时的 28%。

在模型作为卖家编写工具描述之前先对其进行测试，指示它只能声明真实存在的字段，并让市场平台根据工具输出核验这些声明。