开发者实测 Java MemorySegment API:比 Unsafe 慢,游戏渲染场景不划算
来源标题:Squeezing Java's MemorySegment
开发者用小型游戏引擎实测 Java 新内存 API MemorySegment,发现其速度慢于 Unsafe,在游戏或渲染类场景中不占优势。不过 MemorySegment 在易用性上明显优于手动用整数指针操作。由于相关调用被 Kotlin 属性封装,API 差异对其用例影响有限。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
TLDR MemorySegment API 显然比手动用原始整数当指针要好用得多。 但对我的用例来说影响不大,因为它被隐藏在 Kotlin 属性后面了。 在我的用例里,新的内存 API 比 Unsafe 慢,对大多数游戏或渲染用例来说可能也是如此。
引言 我开始在 JVM 上试验原生内存访问已经有一段时间了,说来惊人,已经七年了,你信吗?距离我上一次把 Java 的新外部内存 API 和我的结构体生成库结合起来,也已经五年了——有趣的是,这么多年过去了,这个 API 居然还在预览阶段 :) 但鉴于它基本上已经完成、不会再有大变化,我又试了一次。我实现了一个非常精简的游戏引擎,支持多线程渲染,就像我描述过的……天哪,也快八年了。另外,它还有一个非常简单的实体组件系统实现(是的,是的,我知道……),正好适合这个场景。
提取器模式(extractor pattern)的思路很简单:你的游戏世界以任意速率更新,在每个周期结束时,把与渲染相关的状态提取出来,附加到一个帧上。你可以创建 n 个帧,把它们放进队列,让渲染线程取走并渲染——渲染也是以另一个任意速率进行,但理想情况下要足够快,能跟上生产线程,否则就需要跳帧。一个帧是世界状态的一份完整不可变快照,可以独立渲染。
但我们不能忘记这是有代价的:一个帧必须是世界状态的纯拷贝,更新线程绝不能碰渲染可能仍在消费的数据。
所以有两件事:第一,它单纯要消耗内存,而这些内存需要分配。第二,数据在 CPU 侧,但渲染发生在 GPU 上。当没有共享内存时(这在不久前还很常见),我们就需要传输大量数据。这两件事带来两个后果:我们需要一个特殊的分配器来管理帧内存和 GPU 内存。而且内存需要在 CPU 和 GPU 之间同步/加栅栏。
为此,我们需要原生内存访问,没有它就无法高效地做 GPU 相关的事情。托管堆数据不能直接用来喂给 GPU,否则我们就得手动遍历对象图,提取字节并放进缓冲区。这可以做到高速(我在 hpengine 里就这么做过)。也许不区分 CPU 内存布局和 GPU 内存布局甚至是个蠢主意。但既然这是个好主意,它就能让整个提取步骤变成一个简单的 memcpy,从而快得多、也漂亮得多。
虽然不太受待见,但 JVM 曾有一个非常高效的原生内存访问方案,就是 Unsafe。你通过指针来处理字节缓冲区,指针用一个 int 基本类型表示。简单。越界访问会导致段错误,所以叫 unsafe。其性能几乎与 C 提供的相当,风险也类似。
JVM 新的官方原生内存访问方案当然不可能就这么不安全。于是就有了一个 API,旨在通过牺牲一点性能来提供安全性。我们得到的不是类似 C 中 void 指针的构造,而是类似 span 的东西,只是稍有不同。一个 MemorySegment 只是一个指向内存的指针,加上它拥有的字节数。这个段是子段还是独立缓冲区是未知的,也不重要。这些信息用于判断越界访问,以防止段错误。
而 MemoryLayout 的思路是用一个布局来描述一堆字节,就像你在 C 里定义结构体时敲的那样。然后你要么有一个简单布局,要么有一个序列布局,包含多个简单布局类型的条目,就像一个数组。
在 rebirth 里,我用这个布局定义来建模一个 2D 位置组件 val layout = MemoryLayout.structLayout( ValueLayout.JAVA_FLOAT.withName("x"), ValueLayout.JAVA_FLOAT.withName("y") ) 然后我们可以从这个布局派生出 VarHandle,它是 JVM 原生的构造,让你可以访问各种属性、函数、动态生成的方法实现,或者像这个例子里那样,作为进入某个底层数据结构的访问器。 val xHandle = layout.varHandle(groupElement("x")) val yHandle = layout.varHandle(groupElement("y")) 和我的结构体生成库一样,在 Kotlin 里我们使用一个滑动窗口,它就像一个带类型的指针,在 rebirth 里长这样: class PositionComponent { context(segment: MemorySegment) var x: Float get() = xHandle.get(segment, 0) as Float set(value) = xHandle.set(segment, 0, value) context(segment: MemorySegment) var y: Float get() = yHandle.get(segment, 0) as Float set(value) = yHandle.set(segment, 0, value) 注意 context 参数——这是一个被传入函数调用的参数,或者在调用点用于属性访问,而无需显式传入。只要调用点存在一个 MemorySegment,属性访问就会自动使用它,像这样: world.forEach<PositionComponent> { entityId, position -> println(position.x) 在 world 上,这会找到包含所有 PositionComponent 实例的系统,并使用一个单一的滑动窗口实例,也就是 lambda 里的 position 参数。一个组件只在当前迭代中有效,它们永远不能被保存,只有 entityId——那个句柄——可以被保存,就像 ECS 或一般游戏中的惯例。lambda 的类型实际上是 context(MemorySegment) (Int, T) -> Unit,这意味着 MemorySegment 会自动传入属性访问器,如上所述。当然,对从未见过 Scala(或 Kotlin)的人来说相当陌生,但我会说这相当优雅,非常适合消除传递基指针的需要。
组件数组本身是这样分配的: val baseLayout: layout // 上面的布局
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。