跳到正文
原文
rohanpaul_ai· @rohanpaul_ai · X·· 3 天前AI 评分59

Mubit 发布基于自有 API 调用训练小模型的服务

AI 导读

Mubit 推出智能体模型训练服务,读取智能体已发往 OpenAI 或 Anthropic 的 API 调用,识别重复任务并训练用户拥有的小模型。重复且范围明确的工作交由专属小模型处理,其余任务仍由前沿模型完成;接入只需替换 base URL,也可直接连接已有 traces。模型每几分钟刷新一次,不同公司的数据会形成不同的小模型。

正文 · AI 翻译

你的 API 调用如今成了你拥有的训练数据,这是自主掌控智能技术栈的绝佳起点。

Mubit 会读取你的智能体已经发送给 OpenAI 或 Anthropic 的调用,找出其中重复出现的任务,并训练出由你拥有的小模型。

这样一来,你花的钱更少、等待的时间也更短,而其余工作仍由大模型处理。

> 这家公司表示,他们每隔几分钟就会刷新一次。

> 集成只需一行代码。你只需替换基础 URL,客户端代码保持不变。如果你不想这么做,也可以接入你已经在收集的追踪数据。

> 我喜欢的是这种拆分方式。范围狭窄且重复的工作会转交给一个基于你自己的流量训练出来的模型。超出这些任务范围的部分仍然交给前沿模型处理。

这一切意味着,Mubit 上的两家公司最终会得到不同的小模型,因为每个模型都由各自智能体的工作所塑造。

在提示词中记住反馈的效果并不稳定。因此,Mubit 所采用的做法是:不再把经验教训写进提示词,而是针对你的智能体反复执行的任务训练小模型,让改进沉淀在模型权重之中。

来源:rohanpaul_ai · x.com