跳到正文
原文
haoailab· @haoailab · X·· 9 小时前AI 评分44

DJev-serve 在 GB200 上单次前向决策

AI 导读

每一步都是 DJev 在 DiffusionGemma 上的一次前向传播,零 token 生成。 我们的开源引擎 DJev-serve 在 NVIDIA GB200 NVL72 和 B200 上将每个决策作为单个 CUDA graph 运行。

正文 · AI 翻译

每一步操作都是 DJev 在 DiffusionGemma 上的一次前向传播,不生成任何 token。我们的开源引擎 DJev-serve 将每个决策作为单个 CUDA graph 在 NVIDIA GB200 NVL72 和 B200 上运行。

来源:haoailab · x.com