Marvell展示用光互连把HBM内存放到距GPU 50米外的模块

AI 导读

Marvell的Dave Lazovsky展示了一个用光子学把高带宽内存（HBM + DDR）放到距GPU最远50米外的小型模块，取代通常1.5毫米的贴装距离。原文称延迟保持在数百纳秒量级，内存与算力可各自独立扩展，AI集群可共享大容量内存而不必绑定加速器封装。

正文 · AI 翻译

Marvell 的 Dave Lazovsky 手持一个微型模块，该模块利用光子技术将高带宽内存（HBM + DDR）传输到距离 GPU 最远 50 米的位置。

它可以放置在距离 GPU 最远 50 米的地方，而不是通常的 1.5 毫米。

内存首次不再需要紧邻计算单元，使 AI 集群能够共享海量容量，而不必绑定在加速器封装上。

延迟仍保持在数百纳秒，足够接近以满足实际内存使用需求。

基本上，内存和计算现在可以沿各自独立的维度扩展，而不再被绑定在一起。