omarsar0· @omarsar0 · X·· 3 小时前AI 评分
ScaleDown 1M token 多模态决策模型
1M token 多模态决策模型来了! 但这一个还有更多亮点。 你可以用 1M token 的文本和图像输入进行分类、抽取和摘要。 ScaleDown 的 Constrained Decoding Models 只读取一次输入,直接指向答案,无需逐 token 生成。 比前沿 LLM API 快 200 倍,便宜 467 倍。
100万token的多模态决策模型来了!
但这个模型不止于此。
你可以用100万token的文本和图像输入进行分类、抽取和摘要。
ScaleDown 的约束解码模型只需读取一次输入,直接指向答案,无需逐token生成。
速度比前沿大模型API快200倍,成本低467倍。
来源:omarsar0 · x.com