跳到正文
原文
omarsar0· @omarsar0 · X·· 3 小时前AI 评分43

ScaleDown 1M token 多模态决策模型

AI 导读

1M token 多模态决策模型来了! 但这一个还有更多亮点。 你可以用 1M token 的文本和图像输入进行分类、抽取和摘要。 ScaleDown 的 Constrained Decoding Models 只读取一次输入,直接指向答案,无需逐 token 生成。 比前沿 LLM API 快 200 倍,便宜 467 倍。

正文 · AI 翻译

100万token的多模态决策模型来了!

但这个模型不止于此。

你可以用100万token的文本和图像输入进行分类、抽取和摘要。

ScaleDown 的约束解码模型只需读取一次输入,直接指向答案,无需逐token生成。

速度比前沿大模型API快200倍,成本低467倍。

来源:omarsar0 · x.com