dair_ai· @dair_ai · X·· 4 小时前AI 评分
NVIDIA 发布 Nemotron 3.5 Super 技术报告
NVIDIA 的 Nemotron 3.5 Super 技术报告称，该模型在 SWE-bench Pro 上达到 51.78%，以约少 4.6 倍的活跃参数超过 Nemotron 3 Ultra。
NVIDIA 发布的这份报告很出色。
报告显示，Nemotron 3.5 Super 在 SWE-bench Pro 上达到 51.78%。这一成绩超过了 Nemotron 3 Ultra，而其活跃参数量约为后者的 1/4.6。
Super 有 1200 亿参数，其中 120 亿为活跃参数，可处理文本、图像和视频。Lightning 是一款 300 亿参数的文本模型，其中有 30 亿为活跃参数。
技术报告涵盖训练的每个阶段。Super 先进行智能体软件工程方面的中期训练，随后依次进行监督微调、强化学习，以及多教师在线策略蒸馏。
报告还给出了服务性能数据。这套技术栈在 GB200 上可实现最高每 GPU 4,856 个输出 token/s，同时每用户速度保持在至少 50 token/s。NVFP4 量化相对于 BF16 恢复了 99.62% 的中位准确率。
arxiv.org/abs/2610.38095
Chat with Paper：academy.dair.ai/papers/nemot…
来源：dair_ai · x.com