RouterPlus 聚合多团队需求获取批量 token 价格

推理定价存在规模惩罚。最优的每 token 价格只属于能承诺最大用量的买家。

RouterPlus 把多个团队的需求打包成与供应商的一笔大单，每个团队都按该费率支付自己那部分流量的费用。

大买家多年来一直用这种方式与云厂商签订用量承诺。套用到 token 上，我猜它在热门开源模型上效果最好——许多团队本来就想在同类硬件上部署同一套权重。

对于小团队来说，这是一条无需成为大买家也能拿到批量价格的途径。

他们还会用你的真实使用场景来测试模型，选出在最低成本下表现足够好的那一个。很多团队在每个任务上都为顶级模型付费，而其实更便宜的模型就能完成大部分工作。