GraalVM SQLite运行时原生调用开销分析:NFI互斥锁调用成本
来源标题:The Cost of Native Calls in GraalVM's SQLite Runtime
研究测量了GraalVM Sulong下SQLite每次互斥锁操作经Truffle NFI调用glibc的CPU开销,并评估固定签名下行调用能否降低重复点查询负载的耗时。JVM overlay在符号解析后特化调用,需满足非可变NFI签名(POINTER):SINT32、已转换指针及匹配pthread_mutex_lock/unlock等条件,未通过则回退原路径。在预热进程的对比中,Panama中位墙钟时间低于libffi,但整进程中位数更高,实验仅刻画运行时组件,不涉及智能体策略与任务结果。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
当 SQLite 以 LLVM bitcode 形式运行在 GraalVM Sulong 之上时,一个序列化的连接会穿过 Truffle 的 native function interface(NFI),为每一次互斥量操作调用 glibc。互斥量可能并无竞争,但准备调用本身仍要分配参数缓冲区。我们想知道:一个带守卫的固定签名 downcall 会让重复点查询负载的 CPU 时间变化多少,以及它的行为在针对性测试中是否与原有的 native 调用一致。
这一结果对选择和调用数据库后端运行时的工具有意义。这类工具的代价模型可以把进程启动和编译,与对已预热进程的重复请求分开计算。在本研究中,Panama 的预热后 wall time 中位数低于 libffi,而整进程中位数则更高。这些测量刻画的是工具运行时的一个组件。Agent 策略和任务结果不在实验范围内。
JVM overlay 在 Sulong 解析出 native 符号并转换指针之后,对调用进行特化。它要求一个非可变参数的 NFI 签名 (POINTER):SINT32、一个已经转换好的数值指针,以及与所加载 glibc 中 pthread_mutex_lock 或 pthread_mutex_unlock 匹配的地址。守卫失败时走原有的 libffi 路径。连接序列化、底层互斥量操作、JNI 线程切换以及返回类型都保持不变。
对于所接纳的 Linux x86-64 ABI,常规序列化器会把同样的指针位 $p$ 放入参数槽。桥接层把 guest 线程的错误状态转写为 native errno,用解析出的函数 $g$ 对 $p$ 进行调用,并捕获新的 errno $e'$ 和有符号 32 位返回值 $r$。它返回一个 64 位字 $$w = 2^{32}\operatorname{u32}(e') + \operatorname{u32}(r).$$ Java adapter 解码这两半并恢复 guest errno。这一论证在受守卫的 ABI 边界上确立了指针位、函数目标、输入 errno、返回位以及最终 errno 的相等性。测试覆盖了带错误检查的互斥量、错误持有者与重复操作、errno 哨兵值、native 到 guest 的回调,以及一个具有相同签名的替代提供者。每次插桩解释器运行和强制 Tier 2 运行都观察到 4,000 次直接的 libc 桥接调用,而替代提供者为零次。捕获的 sqlite3_mutex_enter 图显示参数准备数组分配从 3 次降到 0 次。其已安装代码从 1,229 字节缩减到 722 字节。
在与 Panama 的对比中,固定版本的 Sulong 构建为同样两个受守卫的直接符号使用显式后端前缀,并委托给已发布的 GraalVM Panama provider。三个 JVM profile 都加载相同的 overlay JAR,并使用相同的合并后 SQLite LLVM 模块。每个 profile 通过运行时设置选择自己的路径。
所有测量都在一台 Linux x86-64 主机上完成,CPU 为 AMD EPYC 9V74,glibc 为 2.41。主要版本为 SQLite 3.54.1、GraalVM Community JDK 24.0.2+11.1、Sulong 24.2.2 和 Clang 18.1.3。native 对照组对原版 SQLite C 代码以及 JVM 所运行的同一 LLVM 模块使用 Clang -O2。每个查询 profile 都使用相同的序列化连接模式、输入和确定性校验和。
六个 block 各自以带种子的伪随机顺序运行五个 profile,每个 block 中每个 profile 使用一个全新进程。负载包含 2,048 行、12,000 次预热查询,以及十个各含 150,000 次查询的窗口。最后五个窗口每个进程贡献一个中位数。校验器检查查询驱动程序和区域在每个保留的 JVM 窗口开始时是否处于 Tier 2 代码,并检查 trace 在该窗口内不包含任何已记录的 guest 编译器事件。它对照 native 检查查询值和窗口校验和。完整运行包含 30 个进程和 150 个保留窗口。预热线程 CPU、预热 wall time 和整进程 wall time 是三种不同的测量。
| Profile | 每 150,000 次查询的预热线程 CPU | 每 150,000 次查询的预热 wall | 整进程 wall |
|---|---|---|---|
| 原版 SQLite C,Clang -O2 | 46.69 ms | 46.88 ms | 0.489 s |
| 匹配的 guest LLVM,Clang -O2 | 59.34 ms | 59.34 ms | 0.629 s |
| Graal JVM libffi | 183.71 ms | 186.55 ms | 50.875 s |
| Graal JVM Panama | 111.27 ms | 113.35 ms | 78.659 s |
| Graal JVM typed JNI | 68.74 ms | 69.47 ms | 50.686 s |
在每个预热 block 中,typed JNI 的 CPU 用量都低于两个 JVM 替代方案。配对 JNI/libffi CPU 比值的中位数为 0.365,即降低 63.5%。其精确 96.875% 符号区间为 [0.352, 0.407]。JNI/Panama 比值为 0.618 [0.469, 0.648]。JNI/原版 C 为 1.469 [1.368, 1.563],JNI/匹配 LLVM 为 1.162 [0.984, 1.229]。这些区间以独立进程 block 和该主机上的连续中位数为条件。六个 block 中有五个 block 里 JNI 先于 libffi 运行。原始数据保留了第一个 block 中偏高的冷启动样本。
在另一个六 block 的互斥量循环中,每对加锁/解锁的中位数分别为:native C 7.73 ns、libffi 147.37 ns、Panama 35.92 ns、typed JNI 18.23 ns。在额外一次六 block 检查中,未改动的 JVM 与两个开关均被禁用的 JVM 每对分别耗时 140.59 ns 和 142.33 ns。配对比值的中位数为 1.006 [0.817, 1.022]。针对 main、cte 和 orm 的 speedtest1 面板将每个 native 和 JVM profile 各重复三次。全部 45 个进程的结果计数、哈希和用例顺序都与 native 一致。整进程性能在某些测试集上有所提升,在另一些上则出现回退。
被追踪到的原版超时四 worker threadtest5 不一致解释了全部 27 行缺失。六次写入返回 SQLITE_BUSY,并且该 worker 在另一次 busy 响应之后,没有执行来自一个已被认领任务的 21 条预期插入。将该测试的 busy timeout 提高到 30 s 后,AOT 解释器、AOT 正常编译和 JVM 解释器三个 profile 都生成了匹配的 1,230 行表。插桩的 JVM JIT 运行则达到了外层限制。一个单独的强制加锁探针在 native 和 guest 运行中都复现了“已提交认领、插入失败、重试成功”的序列。这一干预改变了测试框架的等待策略。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。