omarsar0· @omarsar0 · X·· 4 小时前AI 评分
ScaleDown 1M token 多模态决策模型
1M token 多模态决策模型来了！ 但这一个还有更多亮点。 你可以用 1M token 的文本和图像输入进行分类、抽取和摘要。 ScaleDown 的 Constrained Decoding Models 只读取一次输入，直接指向答案，无需逐 token 生成。 比前沿 LLM API 快 200 倍，便宜 467 倍。
1M-token, multimodal decision models are here!
But there is more to this one.
You can classify, extract, and summarize with 1M tokens of text and image input.
ScaleDown's Constrained Decoding Models read the input once and point straight to the answer, with no token-by-token generation.
200x faster, 467x cheaper than frontier LLM APIs.
来源：omarsar0 · x.com