
Marvell与Penguin Solutions推出光子互连内存设备,最高共享16TB DRAM
来源标题:Marvell and Penguin Solutions aim to end the RAMpocalypse with photonic fabric
Marvell与Penguin Solutions合作推出基于光子互连技术的内存设备,可在最多16个系统间共享16TB DDR5内存和1TB HBM。该技术来自Marvell今年2月以35亿美元收购的Celestial AI,核心是搭载HBM3e和DDR5、通过硅光中介层提供7.2 Tbps双向带宽的内存扩展模块。Penguin负责整机、电源管理和软件,首款设备支持16个内存模块,未来可扩展至双倍DDR5容量。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Marvell与Penguin Solutions拟用光子互联架构终结内存末日
设备可跨最多16套系统共享16 TB DRAM和0.5 TB HBM
Marvell于今年2月以35亿美元从Celestial AI收购了该互联架构的底层技术。该架构包含一个内存扩展模块,搭载两组共72 GB的HBM3e,并支持八通道DDR5,整体堆叠在硅光子中介层之上,双向带宽达7.2 Tbps(900 GB/s)。
看着眼熟?理应如此。Marvell的光子互联内存模块最初由Celestial AI在去年末被收购前开发。
图片来源:Marvell
“我们在这款设备中提供的是所谓的光子互联内存模块……我们将这些模块提供给Penguin,由他们构建整机、完成所有电源管理、软件开发以及全部管理层,”Marvell光子互联业务高级副总裁Preet Virk对El Reg表示。
Penguin基于该技术的首批设备将支持16个此类内存模块,最高可提供16 TB DDR5和1 TB HBM,未来系统可将DDR5容量扩展至两倍。
通过Marvell设计的光纤 shuffle 分发57.6 Tbps带宽,每台设备最多支持16台服务器,连接方式可以是网络接口卡,也可以是共封装光学(CPO)或近封装光学(NPO)模块。
Marvell与Penguin的每台光子互联内存设备本质上都是网络附加内存“万能盒子”,可向最多16套系统暴露最高2 TB DDR5和1 TB HBM3e。
图片来源:Marvell
如果你不熟悉,CPO模块通常直接集成在计算或交换ASIC中,而NPO模块则是一种折中方案。它们与主机(无论是CPU、GPU还是其他ASIC)进行电气连接,其余部分通过光学互联。NPO预计将在Nvidia和AMD的下一代机架级系统中发挥重要作用,因为相比将光子芯片直接封装进CPU或GPU,它提供更好的可维护性且故障影响范围更小。
通过一个据称由Penguin开发的软件层,每套系统都能访问整个共享内存空间,类似于连接到网络附加存储的系统可以访问设备的全部容量。
据我们理解,目前大部分功能已可通过兼容CXL 3.1的网卡和主机CPU(如AMD崭新的Venice CPU)实现。不过,Virk告诉我们,对于基于NPO和CPO的内存,可以完全绕过CXL。
内存万能盒子或可缓解内存末日
在AI驱动的内存紧缺中,Compute Express Link是否终将迎来高光时刻?
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。