Nagare Labs 推出 Z2RAM 存储方案,称可在 300nm 制程量产并替代 HBM
来源标题:Z2RAM – HBM replacement, no capacitor, mass manufacturable at 300nm
Nagare Labs 发布 Z2RAM 存储,称其具备 SRAM 级速度与 DRAM 级密度,可直接集成在 AI 加速器上,无需电容和中介层,并声称能以 300nm 制程大规模量产。该方案面向多千瓦级加速器的功耗与散热预算,足以承载模型权重和 KV cache。但其容量仍是短板,单元需要六个晶体管。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
无需电容,无需中介层,无需离开芯片。Z2RAM 的速度足以让计算单元保持满载,密度足以容纳权重和 KV cache,并且针对多千瓦级加速器的功耗与散热预算而设计。
内存是阻碍 AI 创新的最关键硬件瓶颈。需要搬运的数据越多,消耗的时间和能量就越多……昂贵的处理器也因此闲置更久。激增的 AI 工作负载和不断演进的基础设施,要求一种兼具高速度与大容量的全新内存层级,以改善响应时间、降低成本并最大化效率。
当前的内存架构造成的取舍,是超大规模厂商和现代 AI 系统再也无法承受的。SRAM 让数据保持近距离,但容量几乎立刻就耗尽。HBM 和 DRAM 容量更大,却位于片外,带来陡峭的延迟惩罚和能量浪费。从 HBM 取一个数,消耗的能量大约是直接对它进行运算的 1,000 倍。
Z2RAM 是 Nagare Labs 给出的答案:一种具备 SRAM 级速度、DRAM 级密度的内存,从一开始就为直接置于 AI 加速器之上而设计。
带宽、延迟和每比特能耗都极为出色。容量则不然:每比特六个晶体管,占去一半裸片面积,而且不再缩小。
以复杂且昂贵的方式堆叠在加速器旁边,通过中介层中的数千条通道连接。每一比特都要为这趟旅程付出能量代价,每一次访问都要为它付出延迟代价。
将传统 DRAM 键合到加速器上,可以找回 SRAM 所提供的大部分优势。但 DRAM 必须保持在约 95 °C 以下,这会限制其下方逻辑电路的性能。因此堆叠层数只能很少,模型的大部分不得不退回中介层,而且每一层都是需要单独键合和良率管理的独立裸片。
一种仅由晶体管构成的存储单元,采用氧化物半导体,以层状沉积在单一裸片上。SRAM 级访问速度、DRAM 级密度,并且在加速器工作温度下保持稳定。
访问速度几乎与 SRAM 相当,因此 AI 加速器是在计算,而不是在等待。
更小的空间容纳更多内存,支持更大的模型和更长的上下文,并且随着层数增加,路线图可超过 10 倍。
更低的功耗和发热,没有刷新周期为保持数据而消耗能量。
过去开发新型内存的尝试,都因奇异材料或难以规模化的物理机制而停滞。Z2RAM 建立在三项突破之上,每一项都已单独得到验证,并首次在一个满足 AI 基础设施需求的存储单元中结合在一起。
传统 DRAM 依赖微型电容,而电容正触及物理微缩极限,并且在读取时会泄放电荷。Z2RAM 仅用晶体管存储数据,实现快速、非破坏性读取,完全绕开了电容制造的壁垒。
随着加速器结温升高,硅晶体管漏电更快,仅仅为了维持存储的比特就要消耗能量。Z2RAM 的氧化物半导体沟道将关态漏电降低数个数量级,因此数据在两次刷新之间可以保持得久得多。
Z2RAM 不是将单独键合的 DRAM 裸片堆叠在芯片旁边,而是用标准 300 mm 工艺在单一裸片上沉积其内存层,并将其直接与加速器结合。容量垂直扩展,无需节点微缩或 EUV。
通过中介层布线 · 数千条通道HBM 基础裸片HBM · 六个键合的 DRAM 裸片Nagare Labs 内存六层 · 单一裸片HBM 曾经所在之处✕ 无 HBM 堆叠✕ 无基础裸片✕ 无中介层通道今天 · HBM 位于加速器旁边NAGARE LABS · 内存位于加速器之上今天,HBM 作为一堆单独键合的 DRAM 裸片位于加速器旁边,通过中介层中的数千条通道访问。Nagare Labs 用一个由六层沉积层构成的单一内存裸片取代了这一堆叠,直接集成在加速器顶部并垂直连接。它比单个 HBM 裸片更薄,也为热量离开逻辑电路提供了好得多的路径。
为可制造性而设计 Z2RAM 的设计目标是利用现有材料、晶圆厂节点和 300 mm 量产级设备实现高效扩展。它是在阵列规模上的堆叠内存,使用的正是晶圆厂已经在运行的工具和化学工艺。生产可以随代工厂和封装合作伙伴一起扩展,而不是局限于我们自己的工厂。这就是“能造出来的内存”与“能大规模量产的内存”之间的区别。
在职业生涯的大部分时间里,Suman Datta 和 Shimeng Yu 都是从外部为内存行业提供建议。Suman 的晶体管几乎出现在当今出货的每一款处理器中。Shimeng 的仿真器则是行业决定该造哪种内存的依据。当他们自己实验室的成果从“有前景”跨越到“可建造”时,他们不再旁观,创立了 Nagare Labs 亲自将其造出来。
Intel High-k/Metal Gate 和 3D Tri-Gate 晶体管的共同发明人,这些突破推动计算从 45 nm 走到今天。2026 年 IEEE Andrew S. Grove 奖得主。Georgia Tech Pettit 讲席教授。
NeuroSim 的创造者,这是业界建模新兴内存和 AI 硬件的标准工具,被全球代工厂和芯片设计者使用。Georgia Tech Dean's Professor;Stanford 博士。
Suman Datta 在 IEEE Micro 上的观点文章提出将后段制程氧化物半导体晶体管用于单片 3D 集成。
首个非晶氧化物双晶体管增益单元在 IEDM 上展示。
核心材料和器件结构选定;器件可靠性优化(VLSI)。
存储单元经实验验证(IEDM);四层堆叠晶体管结构制造完成。Shimeng Yu 的团队发表了关于 HBM 堆叠在逻辑之上的热与供电分析,量化了堆叠 DRAM 的上限(IEEE JxCDC)。
长期稳定性得到展示(VLSI)。Nagare Labs 成立,获得 Georgia Tech 的正式机构许可,以及 Playground Global 的支持。
由来自 Intel、Intel Foundry 和 TSMC 的前领导人指导,并获得 Playground Global 的支持。
Intel 和 VMware 前 CEO。Intel 首任 CTO,80486 架构师,半导体行业四十年领袖。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。