跳到正文
原文
ibab· @ibab · X·· 3 小时前AI 评分44

River AI 推出私有化定制模型系统

AI 导读

River AI 推出定制模型系统,可将 API 部署到客户自有算力集群,团队经验来自 DeepMind、OpenAI 和 xAI。定制模型在内部工作流上的表现优于顶级前沿模型,成本仅为其 1% 或更低。作者预测未来 99% 以上 LLM token 将由高效定制小模型生成,因为针对特定领域训练的小模型通常胜过通用大模型。

正文 · AI 翻译

过去几个月里,我们在 @river_ai_inc 开发了一套我们相信是全球最佳的系统,用于构建你自己的内部定制模型,这得益于在 DeepMind、OpenAI 和 xAI 训练顶尖模型的 10 年经验。

为了更好地服务客户,我们决定做一件激进的事:我们还会把 API 部署到你的本地计算集群上;如果你没有算力,我们会帮你找到。

我们一次又一次地看到,为你的内部工作流量身定制的模型,在性能上超过了顶级前沿模型,而成本只有其一小部分(1% 或更低)。

我们才刚刚进入定制模型时代,但已经可以清楚地看到,未来超过 99% 的 LLM token 将由高效的定制模型生成。其经济性实在太强大了,而且一旦你有了合适的工具,这件事远比人们想象的容易。

小模型将占据主导地位的原因在于深度学习的物理规律:一个能做所有事情的通用模型需要更大的容量,在所有任务的全分布上训练它也更具挑战性,因此模型会更大、更贵,而且无法在每项任务上都表现出色。而在特定领域上训练的小模型通常表现更好。

来源:ibab · x.com