
OpenAI用自家模型加速Jalapeño芯片设计并优化AMD硬件
来源标题:Advancing chip design with OpenAI models
OpenAI披露其前沿模型已用于加速首款自研推理芯片Jalapeño的开发,并可将同类方法用于AMD第三方硬件以取得显著提升。OpenAI自2025年初开始用GPT-4o参与Jalapeño设计,还评估了多代模型在开源处理器设计任务上的端到端芯片设计能力。OpenAI正与Synopsys合作,将前沿智能集成到工程师常用的EDA工具中。
以下正文由 AI 翻译自 Hacker News(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
改进 Jalapeño 的计算模块 我们与 AMD 的合作 优化 RISC-V 核心 根据规格说明设计 RISC-V 核心 下一步 改进 Jalapeño 的计算模块 我们与 AMD 的合作 优化 RISC-V 核心 根据规格说明设计 RISC-V 核心 下一步 OpenAI 的模型正在快速改进为 AI 提供算力的芯片。今年 8 月,我们分享了 OpenAI 工程师如何利用我们的前沿模型加速开发我们首款自研推理芯片 Jalapeño。本文将更深入地介绍 Jalapeño 性能提升背后专家级的设计改进,以及我们如何将同样的方法应用于 AMD 的第三方硬件,并取得显著收益。 为了衡量我们的模型在端到端芯片设计任务中的能力,我们在两个开源处理器设计上评估了连续几代模型,并得到了有趣的发现。为了让能力开发建立在可信的评估之上,我们正与 Synopsys 合作,将前沿智能集成到工程师们已经用来设计和验证芯片的电子设计自动化(EDA)工具中。 我们在 2025 年初开始使用 GPT‑4o 协助设计 Jalapeño。即便是那个早期的模型,也找到了实现非平凡 PPA 改进的方法,例如: 在负责管理和执行并行计算任务的向量单元中,节省来自浮点加法器和乘法器、转换函数、归约逻辑以及特殊函数单元。模型探索了替代的逻辑实现方式,以及如何将计算划分到不同流水线阶段,找到了共享硬件和减少中间存储的机会。 在作为算术组件的矩阵单元中,改进累积在浮点加法器、乘法器和低精度点积电路上。其中一项乘法器重新设计在综合时使用的单元面积减少了约 15%,同时将延迟从两个时钟周期降至一个。另一项加法器重新设计将单元面积减少了约 15%,同时保持其两周期延迟。对点积逻辑和流水线组织的进一步改进为该模块带来了更多节省。 在更广泛的 Jalapeño 设计工作中,团队估计模型提出的修改使向量单元的标准单元面积减少了约 13%,矩阵单元减少了约 10%。这些优化已在 Jalapeño 的硅片点亮过程中得到硅验证。 我们与 AMD 合作进行 PPA 改进,在旗舰 GPU IP 上相对于经过高度优化的基线取得了高达 14% 的提升。我们的模型通过重写描述芯片电路的代码(SystemVerilog RTL)发现了进一步的改进。这相当于在不到 5 个月内取得了大约一年的进展——在芯片设计前沿领域是前所未有的成果。AMD 已将这些修改中的一部分纳入其最近送交制造的某个设计中,并将另一些加入其生产设计文件,用于未来版本。 我们观察到模型能够以专家级微架构师的水平对 RTL 进行推理。模型可以重写执行计算、控制操作或移动数据的电路。它使用 Synopsys 工具验证每次重写都保持了模块的行为,并评估功耗、性能和面积方面的权衡。 AMD 还验证了,使用我们模型编写的设计,其即将推出的下一代旗舰 CPU 的关键模块在 PPA 上取得了个位数百分比的提升。展望未来,我们预计在 GPU 和 CPU 上,相对于最优化的基线还能取得进一步的 PPA 改进。 我们在 Jalapeño 和 AMD 芯片上的结果表明,模型可以在生产设计中做出改进。为了衡量芯片设计能力从一代模型到下一代的进步,我们在两个开源 32 位 RISC-V 核心上测试了每个模型。PicoRV32 是一个为可重编程芯片(称为 FPGA)设计的紧凑核心。OpenTitan 在其安全芯片中使用 Ibex 作为嵌入式处理器。两者都是面向嵌入式、微控制器级工作负载的完整处理器核心。 我们向每个模型提供了每个核心的原始硬件描述,并要求它提高吞吐量(核心每秒可执行的指令数)。例如,某项修改可能让核心用更少的时钟周期完成一条指令,但使每个周期耗时更长。测量吞吐量可以同时捕捉这两种效应。 我们在仿真中检查了每个设计的输出。如果设计未通过检查,或使用的面积超过原始核心的 16 倍,则得分为零。对于通过的设计,我们在对模型隐藏的工作负载上测量了每时钟周期指令数。我们取这些工作负载的几何平均值,再乘以用 Yosys 估算的最高时钟频率,从而得到每秒指令数的估计值。对于每个核心,我们将相同约束下观察到的最佳吞吐量记为 1.0 分。图表显示了多次运行的平均得分,包括得零分的运行。 在每次运行约 112,000 个 token 的可比预算下,GPT‑6.2 Astra 在两个核心上的平均得分都最高。GPT‑6.1 Sol 在两个核心上的得分也都高于 GPT‑5.6 Sol。 在现有的 PicoRV32 核心上,GPT‑6.2 Astra 在较大的可比预算下平均得分最高。在约 112,000 个 token 时,其得分约为 GPT‑6 Astra 的两倍。 在现有的 Ibex 核心上,GPT‑6.2 Astra 的平均得分在其达到的较高预算下继续攀升。GPT‑6 Astra 和 GPT‑6.1 Sol 的得分较为接近。 对于第二项任务,我们向每个模型提供了书面需求说明,以及来自开源代码的模板,展示核心如何与系统其余部分连接。模型自行决定数据如何在核心中流动,以及如何将工作划分到不同阶段。对于每个核心,我们保持正确性检查、内存和缓存设置以及吞吐量目标与 RTL 优化任务中相同。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。