跳到正文
原文
SemiAnalysis_· @SemiAnalysis_ · X·· 4 天前AI 评分40

RUBIN NVL72 运行 GLM5.3 智能体负载每用户达 862 tok/s

AI 导读

突发新闻🚨:RUBIN NVL72 在 GLM5.3 744B 的智能体工作负载上达到每用户 862 tok/s! 不到 8 天,NVIDIA 通过低延迟专用内核,将 Rubin 的交互性能提升了近 2 倍。

正文 · AI 翻译

突发新闻🚨:在智能体工作负载上,RUBIN NVL72 运行 GLM5.3 744B 时达到每用户 862 tok/s!

在不到 8 天内,NVIDIA 通过低延迟专用内核将 Rubin 的交互性能提升了近 2 倍。

来源:SemiAnalysis_ · x.com