跳到正文
原文
rohanpaul_ai· @rohanpaul_ai · X·· 2 小时前AI 评分51

Princeton 与 Meta 论文提出用 LoRA 适配器持续改进 AI 智能体

AI 导读

Princeton 与 Meta 的论文提出 Self-Direction,让失败智能体把每次纠错训练成约占模型 0.02% 大小的 LoRA 适配器,并通过路由器为相似任务加载最接近的适配器。

正文 · AI 翻译

普林斯顿大学和 Meta 联合发表了一篇关于 AI 智能体持续改进的新论文。

研究发现,如果将每次修正保存为 LoRA 适配器,并在相似任务中重复使用,智能体犯错的次数就会减少。

智能体可以在一次会话中纠正错误,却往往会在下一次会话中再次犯错。写在上下文中的笔记会被遗忘,而全量微调成本高昂,还可能破坏其他技能。

借助 Self-Direction,失败的智能体会反思自己的运行过程,并将经验训练到一个约占模型大小 0.02% 的 LoRA 适配器中。之后,当智能体在相似任务上失败时,路由器会加载最匹配的适配器。

使用 Qwen3.6-27B 时,GAIA 上的任务成功率从 38.8% 提升至 55.8%,超过了上下文内反思和 Skills.md 文件的方法。在此前 185 次错误中,到第三次遇到同类任务时,仍有 67.3% 的修复有效,而单纯重试的对应比例仅为 42.9%。

如果你的智能体总是犯同样的错误,请将每次修正保存为可重新加载的小型适配器,而不只是写在提示词笔记中。

来源:rohanpaul_ai · x.com