rohanpaul_ai· @rohanpaul_ai · X·· 4 小时前AI 评分
Rohan Paul:Agent swarm 将推动 AI 软件从按席位定价转向按量计费
Rohan Paul 认为 agent swarm 会把大部分新增 token 消耗导向更便宜的模型,使 agent 的 token 总量超过前沿模型的收入。他解释道,在 swarm 中父 agent 负责规划,子 agent 处理搜索文件、运行测试等窄任务,这类任务易于验证,开发者可将其路由到能通过验证的最便宜模型。
智能体集群将大部分新增 token 流量导向更便宜的模型,因此智能体的 token 消耗量将超过前沿模型的收入。
在集群中,父智能体负责规划,子智能体则处理搜索文件、运行测试等狭窄任务。这些狭窄任务通常容易验证,因此开发者可以将它们路由到能通过验证的最便宜模型。
而这种 token 的爆炸式增长,也是 AI 软件的固定费率和按席位定价将让位于计量计费的主要原因,因为前者依赖人类的提示速度来限制用量。
一个人每天只能发出有限数量的提示,因此供应商可以按用户收费,同时还能预测推理成本。
但当智能体集群 7x24 不间断工作时,这个等式就不再成立了。
来源:rohanpaul_ai · x.com