跳到正文
原文
SemiAnalysis_· @SemiAnalysis_ · X·· 11 小时前AI 评分44

NVIDIA Rubin推理性能与利润优势分析

AI 导读

HOLY ALERT🚨: NVIDIA vLLM INFERENCE RUBIN IS 3.2x BETTER IN PROFIT💰️ PER GIGAWATT & HAS UP TO 🚀 10x BETTER PERF PER DOLLAR THAN EVEN GB300 NVL72. This is on the widely used production LLM engine called @vllm_project. We explain below.👇️(1/3)🧵

正文 · AI 翻译

重磅警报🚨:NVIDIA vLLM 推理在 RUBIN 上每吉瓦的利润💰️提升 3.2 倍,每美元性能更是比 GB300 NVL72 高出最多 🚀 10 倍。这是在被广泛使用的生产级 LLM 引擎 @vllm_project 上测得的。我们下面详细解释。👇️(1/3)🧵

来源:SemiAnalysis_ · x.com