Back to Home
RadarAI··Papers & Tech

Marvell 光子模块让 HBM 与 GPU 分离 50 米

中文摘要

Marvell光子模块让HBM+DDR内存可距GPU达50米。实现内存计算分离,AI集群共享大容量内存,避免封装锁定,保持低延迟,支持独立扩展。

English Summary

Marvell's photonic module separates HBM+DDR memory 50 meters from GPU. This enables independent scaling of memory and compute, allowing AI clusters to share large-capacity memory with low latency, avoiding package lock-in.

Original Excerpt

Marvell 的 Dave Lazovsky 展示了一个光子模块,可将 HBM + DDR 高带宽内存搬到距 GPU 最远 50 米处,而传统方案通常只有 1.5 mm。该方案让内存首次不必紧贴计算芯片,AI 集群可共享大容量内存而不被加速器封装锁定,延迟维持在数百纳秒级,足以支撑实际内存使用。内存与计算由此可以各自独立扩展。