rohanpaul_ai· @rohanpaul_ai · X·· 18 小时前AI 评分
Stanford 论文:按失败类型选择改 harness 还是微调权重
New Stanford paper finds that harness changes fix agents that loop or stall, while agents that deliver bad plans need weight training instead. 研究把失败分为过程失败(循环。
斯坦福大学的新论文发现,对于陷入循环或停滞的智能体,修改其运行框架即可修复;而对于给出糟糕计划的智能体,则需要进行权重训练。
改进智能体有两种途径:一是编辑其运行框架,即模型周围的提示词、工具和检查机制;二是微调其权重。
他们将失败的运行分为两类:过程性失败,如陷入循环、步骤预算耗尽;以及内容性失败,即给出了糟糕的计划。在一个旅行规划基准测试中,一个由大语言模型驱动的循环重写了运行框架,其最佳运行结果随后对模型进行了微调。
运行框架的进化将 Qwen3.5-4B 在留出任务上的得分从 0.16 提升至 0.30,同时计划交付率从 55% 提高到 90%。修改运行框架从未降低糟糕计划的占比,但一个 LoRA 适配器将其在 Qwen3.5-9B 留出运行中的比例从 28% 降至 5%。
在改进智能体之前,先标注其运行失败的原因,然后针对过程性失败修改运行框架,针对内容性失败修改权重。
来源:rohanpaul_ai · x.com