跳到正文
原文
rohanpaul_ai· @rohanpaul_ai · X·· 19 小时前AI 评分59

MIT 论文:LLM 智能体在规则以简单步骤呈现时决策更好

AI 导读

MIT 新论文指出,LLM 智能体在选择以简单步骤呈现、或规则的安全动作被明确说明时决策更好,被告知推理对手时反而更差。为人类竞拍者设计的市场设计经验法则可迁移到 LLM 智能体,无需另造提示词技巧;GPT-4o、Claude、Gemini 和 Gemma 在拍卖与匹配博弈中仍会压价竞标。

正文 · AI 翻译

MIT 新论文:当选择以简单步骤呈现,或直接说明规则下的安全操作时,LLM 智能体的决策表现更好;而被要求揣摩对手意图时,表现则更差。

为人类竞拍者设计的市场设计经验法则同样适用于 LLM 智能体,因此我们可以直接借用这些法则,而不必发明新的提示技巧。

在这些拍卖和匹配博弈中,如实出价和如实排序始终是最优策略。GPT-4o、Claude、Gemini 和 Gemma 仍然存在压价行为,往往是为了保留利润空间。

在价格上涨、只需简单选择留下或退出的场景中,Gemma 的出价从低于其价值 5.30 美元改善为仅低 0.30 美元。一条说明「拒绝只会重新导向」的一行提示,就将匹配错误率从 4.2% 降至 0.2%。

先规范格式并陈述关键事实,再加入推理提示;评判智能体要看它们的实际选择,因为它们书面计划中并未体现出这些改进。

智能体提示应陈述规则事实,而非要求更多思考,因为事实能改善选择,而思考类提示往往反而增加错误。

来源:rohanpaul_ai · x.com