跳到正文
原文
natolambert· @natolambert · X·· 3 天前AI 评分51

DeepSeek 单集群每日处理 150T tokens,超过四家开放模型推理平台合计

AI 导读

DeepSeek 在单个集群上每日服务 150T tokens,超过 OpenRouter、Fireworks、Together 和 BaseTen 的开放模型推理量之和。作者随后重建了上述公司的推理量报告。

正文 · 原文

DeepSeek is serving 150T tokens a day on one cluster, more than the open model inference on OpenRouter, Fireworks, Together, and BaseTen combined.

Below is my reconstruction of various inference volume reports across said companies.

来源:natolambert · x.com