Stanford 与 Together AI 论文提出 HybridAgent，解码算力降 62.5% 至 72.9% 且得分更高

斯坦福大学与 Together AI 的最新论文发现，更廉价的推理未必以牺牲准确率为代价：混合智能体将解码计算量削减了 62.5% 到 72.9%，得分反而更高。

这表明，当大部分思考在隐藏向量中而非书面文本中完成时，智能体运行更快、得分也更高。

如今的智能体会把每个推理步骤都写成文本 token，既慢又昂贵。在内部向量中进行推理的模型速度更快，但它们无法调用工具，人类也无法读懂它们在想什么。

HybridAgent 增加了一个小型适配器，将模型的内部状态作为下一步输入反馈回去，使其无需写出文字即可思考。它会在调用工具和做出关键决策时切换到文本模式，而其静默步骤仍可解码为可读的文字。

在 GAIA 基准上，14B 版本得分 52.4，高于用 ARPO 训练的同一模型作为纯文本智能体时的 43.7。它的运行速度也比同规模的文本智能体快 2.1 倍。

如果你的智能体在常规推理上消耗大量 token，不妨尝试将这些推理保留在内部，只在工具调用和需要人工核查的步骤上使用文本。