跳到正文
原文
rohanpaul_ai· @rohanpaul_ai · X·· 3 小时前AI 评分56

论文提出自改进智能体的 harness 编辑准入规则并映射到进化算法

AI 导读

一项工作把自改进智能体的 harness 自改进方法映射到进化算法,从保留最优搜索到档案、Pareto 选择和 bandit 引导的预算分配。自改进智能体会重写围绕固定模型的 prompt、记忆、工具和代码,被接受的编辑会带入后续运行,坏编辑可能过拟合、抹除旧技能或扩散给其他用户。

正文 · AI 翻译

自我改进的智能体只有在某项框架(harness)编辑在全新、独立的任务上胜过当前版本时,才应接受该编辑。

该研究将框架自我改进方法映射到进化算法上,从简单的保留最优搜索,到存档、帕累托选择,再到多臂老虎机引导的预算分配。

自我改进的智能体现在会重写自己的框架:即围绕固定模型的提示词、记忆、工具和代码。被接受的编辑会带入后续运行,因此一次糟糕的编辑可能导致过拟合、抹除旧技能,或扩散到其他用户。

他们按这些编辑所改变的内容对其进行分类,从提示词到运行时代码。他们的准入规则是:只有当某项编辑在新的独立任务上以一定幅度胜过当前框架时,才保留该编辑。

在一个他们从先前工作中整理的案例里,配备进化框架和技能的 GPT-5.4-nano 在 SpreadsheetBench 上得分为 77.58%。仅进行技能调优的 GPT-5.5 得分为 76.20%,不过两者的成本并未对齐。

如果你的智能体会编辑自身的设置,请在全新任务上测试每一项更改,并将评估器、权限和紧急停止机制置于其触及范围之外。

来源:rohanpaul_ai · x.com