ornith_· @ornith_ · X·· 5 天前AI 评分
DFlash 草稿模型上线 Ornith-1.5 系列
DFlash 草稿模型现已支持 Ornith-1.5 的 9B、35B-A3B 和 397B 三个版本，与 Ornith 1.5 组成加速组合：DFlash 一次起草多个 token，Ornith 1.5 单次验证草稿 token 而非逐个生成。性能评测显示 DFlash 最高可实现 2.54× 加速，且生成质量无损失。
🪽DFlash 草稿模型已支持 Ornith-1.5 的 9B、35B-A3B 和 397B 版本。
DFlash 与 Ornith 1.5 组成黄金搭档：DFlash 作为草稿模型，通过一次起草多个 token 来加速推理；随后 Ornith 1.5 在一遍处理中验证这些草稿 token，而不是逐个生成 token。
👮 我们对 DFlash 模型进行了性能评估。DFlash 在生成质量无任何损失的情况下，最高可实现 2.54 倍的加速。
🔌 快来把这个超级伙伴接入你的工作站吧。
huggingface.co/collections/o…
来源：ornith_ · x.com