UCSD 论文将心智理论融入 7B 智能体训练奖励

加州大学圣迭戈分校的一篇新论文通过训练奖励将心智理论融入一个 7B 智能体，使其学会解读搭档的信念和目标，然后在部署时独立运行，无需额外模型。

进行谈判、合作或角色扮演的 LLM 智能体通常从提示文本或记忆摘要中猜测对方的目标。它们不会对搭档的知识或计划保留明确的估计，因此可能误读意图。

他们训练了一个模型来推断搭档的信念、意图和想法，包括搭档对智能体的看法。该模型在强化学习期间对候选回复进行评分，最终的智能体则脱离它独立运行。

对于需要谈判或协作的智能体，训练时应使用一种奖励机制，根据推断出的搭档目标与信念模型来评判回复。

– arxiv. org/abs/2610.12453

标题：《多智能体系统的心智模型》（Mental-Models for Multi-Agent Systems）