Microsoft 上下文引导的多轮 Agent 模型路由研究

微软有一篇关于上下文引导模型路由的有趣论文。

他们发现了一个巧妙的方法，可以在多轮场景下的用户轮次层面实现成本感知的智能体模型路由。

如果要在廉价模型和昂贵模型之间路由智能体的轮次，他们建议把会话历史提供给路由器。

微软在多轮电子表格智能体上测试了零样本路由。

在相同的卸载率下，读取历史记录的路由器比只看到当前请求的路由器多完成 3.3 个百分点的任务。

提示缓存会给每次切换带来成本。从昂贵模型切换到廉价模型，两次调用就能收回其缓存成本；而在他们的测试中，向上切换（切回昂贵模型）并未回本。

在较长的会话中，廉价模型的成本优势也从 6.8 倍缩小到 3.2 倍。

arxiv.org/abs/2610.19292

Chat with Paper: academy.dair.ai/papers/whose…