Google· @Google · X·· 4 小时前AI 评分
Gemini 4 Argon 将 Gemma 4 E2B 推理提速 2.85 倍
Google 宣布 Gemini 4 Argon 正在加速其 Gemma 开源模型，使其速度提升近三倍。几天内 Argon 优化 Gemma 4 E2B，在 A100 上通过 vLLM 实现 2.85x 推理提速，吞吐从约 37,900 tokens per second 提升到超过 108,000 tokens per second，保持 100% token parity 且质量无下降。Google 还展示了同时生成 64 个实时 Python 模拟的提速效果。
Gemini 4 Argon 也在加速我们的 @GoogleGemma 开源模型——使其速度提升至近三倍。
仅用几天时间，Argon 就优化了 Gemma 4 E2B，在 A100 上通过 vLLM 实现了 2.85 倍的推理速度提升，从约 37,900 tokens/s 提升至超过 108,000 tokens/s，同时保持 100% token 一致性，质量零下降。
以下是该加速效果的实际演示，同时生成 64 个实时 Python 模拟 ↓
来源：Google · x.com