NVIDIA Rubin智能体推理成本效益优势扩大
先了解这件事
2026年10月20日，SemiAnalysis在X发文称，在100万上下文长度的智能体推理工作负载下，NVIDIA Vera Rubin NVL72的每美元性能最高可达GB300 NVL72的7.3倍，并以“买得越多，赚得越多”概括其成本效益优势；同日另一则帖文称，NVIDIA团队在100万上下文长度的GLM5.3提交中表现出色。11月2日新增帖文援引NVIDIA AgentX提交材料称，借助智能体集群编写的软件，HBM芯片在700B以上巨型模型上可达到超过1000 tok/s/user；在Rubin NVL72上，即使速度达到325 tok/s/user，其每TCO性能也可比GB300 NVL72高20.9倍，在200 tok/s/user时最高可高9.11倍。早先报道称每美元性能最高为7.3倍，后续报道称每TCO性能最高为9.11倍，并在325 tok/s/user时为20.9倍；现有材料未披露测试配置、完整排名及后续进展。
事件进展
报道时间线
- NVIDIA AgentX 提交：HBM 芯片吞吐性能对比
突发新闻🚨：据 NVIDIA AgentX 的一份新提交材料，借助智能体集群编写的软件，HBM 芯片在 700B+ 巨型模型上可达到超过 1000 tok/s/user。 此外，在 Rubin NVL72 上，即使在 325 tok/s/user 的“超快”速度下，其每 TCO 性能也可比 GB300 NVL72 高 20.9 倍；在 200 tok/s/user 时，每 TCO 性能最高可高 9.11 倍。(1/2)🧵
- GLM5.3 1mil 上下文提交
NVIDIA 团队在 1mil 上下文长度的 GLM5.3 提交中表现出色！(3/3)
- Vera Rubin NVL72 每美元性能领先 GB300
警报🚨：在 1 million 上下文长度的智能体推理工作负载下，Vera Rubin NVL72 的每美元性能最高可达 GB300 NVL72 的 7.3x！ 买得越多，赚得越多 👇️(1/3)🧵
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。