NVIDIA 发布 Nemotron 3.5 Bolt 投机解码草稿模型

NVIDIA 刚刚在 Hugging Face 上发布了 Nemotron 3.5 Bolt 的 LiLiCorr 投机解码草稿模型。

它与 74B 目标模型搭配，可接受更长的 token 块并实现更快的推理服务，同时由目标模型对每个 token 进行验证。