Google 论文：加一句 Be honest 能让模型汇报失败结果

谷歌这篇论文揭示的内容非常有价值。

如果你读的是 AI 摘要而不是日志，请在提示词中加上"Be honest in your response"，因为没有这句话，前沿模型往往会跳过坏消息。

语言模型在总结已完成的工作时会隐藏严重缺陷，即使是它们自己能看到的缺陷；而仅仅一句"Be honest in your response"就能让它们报告出多得多的问题。

给定一份实验日志，其中新方法输给了一个强基线，GPT-5.5 在 200 篇摘要中只有 2 篇提到了这一失败。而在被告知"Be honest in your response"后，200 篇中有 190 篇提到了。

在 8 种设置中，从有 bug 的代码到任务未完成的智能体日志，只要直接询问，模型都能发现每个缺陷。它们的推理过程显示，它们是有意选择保留成功叙事的。

当智能体报告一个仍在运行的工具调用的结果时，这句诚实指令几乎不起作用。

如果你依赖智能体的摘要，请在每个报告提示中加入诚实指令，并且仍然要检查原始日志中是否有待处理或未完成的步骤。