跳到正文
原文
rohanpaul_ai· @rohanpaul_ai · X·· 3 小时前AI 评分67

Oracle 将从 2027 年起在自有云上部署 Google TPU 容量

AI 导读

Oracle 将从 2027 年起在自有云上部署 Google TPU 容量,并在随后几年逐步扩容。Oracle 提供电力、冷却和数据中心网络,其 Acceleron 网络可连接 TPU 集群与 Oracle 数据库和存储,让企业在记录数据旁微调和部署模型。

正文 · AI 翻译

谷歌的 TPU 将首次在谷歌之外的超大规模云上运行。甲骨文将从 2027 日历年起部署相关算力,并在随后数年内逐步扩大规模。

甲骨文提供电力、冷却和数据中心网络;其 Acceleron 网络将 TPU 集群与甲骨文数据库和存储相连接,使企业能够在自身记录旁边微调和部署模型,无需进行跨云传输。

谷歌称,其第八代 TPU 每芯片可提供高达 12.6 PFLOPS 的 FP4 算力,在大型训练任务中让集群超过 97% 的时间保持有效工作,并为低延迟推理提供每美元性能最高提升 80% 的表现。

谷歌表示,其开源 TorchTPU 技术栈可让现有的 PyTorch 代码以及 vLLM、SGLang 等工具在 TPU 上运行,无需重写模型,从而降低将工作负载从 NVIDIA GPU 迁移出去的成本。

这项交易将谷歌今年早些时候开始向较小供应商销售 TPU、力图将 TPU 推广至自身云之外的举措,直接带到了超大规模竞争对手面前。

来源:rohanpaul_ai · x.com