跳到正文
原文
dair_ai· @dair_ai · X·· 3 小时前AI 评分56

论文提出将决策模型集成进 Agent harness,蒸馏 4B 模型超越 Jev 且成本更低

AI 导读

论文提出 JevAgentHarness,将决策模型集成进 Agent harness:把每个常规选择交给决策模型,仅当置信度超过基于 Agent 自身轨迹拟合的阈值时才采用其答案,否则由 LLM 正常决策。

正文 · AI 翻译

必读论文:将 Jev 等决策模型集成到 harness 中。

他们蒸馏出一个开源的 4B 决策模型,训练数据主要来自 Jev 在智能体自身状态下的回答,结果在该智能体内部表现超过 Jev,且运行成本低得多。

他们的 harness——JevAgentHarness——将每个常规选择交给决策模型处理,仅当置信度超过基于智能体自身轨迹拟合出的阈值时才采用其答案;低于阈值时,LLM 照常决策。采用拟合阈值后,工具和参数级联将成本降低了 14.2%,且 500 个任务的结果无一改变;而固定阈值 0.5 则损失了 21.5 个百分点。

他们还用智能体自身犯错后到达的状态训练 AgentDecision-4B,并以 Jev 的回答作为标签。在与训练数据不同的任务上,智能体使用该模型解决了 91.5%,使用 Jev 则为 82.0%。在熟悉任务上,以这种方式训练的 4B 模型使智能体成本降低 81.1% 至 89.0%,速度最高提升 2.5 倍,同时成功率保持在 3 个百分点以内。

论文:academy.dair.ai/papers/jevag…

来源:dair_ai · x.com