mezura 将 Linux 内核 3600 万行代码统计耗时压缩至 67 毫秒
来源标题:What it takes to count the Linux kernel's 36M lines of code in under 70ms
mezura 项目把统计 Linux 内核代码行数的时间从约 0.4 秒降到 67 毫秒。该工具在 8 核桌面 CPU 上遍历约 5,900 个目录、读取 1.37 GB 源码,并完成 UTF-8 校验与词法分析以区分代码、注释和空行。测试基于 Linux v6.15 的 0ff41df1 提交。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
mezura 系列之一,共两部分 · 关于 mezura 统计代码行数听起来像是带几个 if 语句的 wc -l。要在 70 毫秒内对 Linux 内核正确完成这件事,对一颗 8 核桌面 CPU 提出了高得多的要求。 在这段时间里,程序要遍历约 5,900 个目录、其中容纳约 88,800 个文件,并从中挑出约 63,700 个源文件进行统计。它要从热页缓存中打开并读取全部 1.37 GB 数据,折算下来大约是 20 GB/s。它要校验 UTF-8,并根据文件内容判定 .h 这类含义不明的扩展名。然后它对 3600 万行做词法分析,跟踪转义引号、原始字符串和块注释,从而区分代码、注释与空行。 (代码树为 Linux v6.15,commit 0ff41df1)。 本文讲述把 mezura 在该工作负载上从约 0.4 秒降到 67 毫秒经历了什么: 过程中有对局部最优的执迷,有把方向指错的性能分析工具(把分支预测失败减少 14%,程序反而慢了 12%),有一个让某个盘符比另一个慢三分之一的 Windows 过滤驱动,还有一次改动同时让词法分析器变得更快也更准确。 如果你只盯着现有代码的火焰图做优化,很容易过早以为自己已经做完了。一旦修掉明显的瓶颈、profile 里不再有哪个函数一枝独秀,每一次改动都开始需要好几天的工作量来换取 1% 或 2% 的收益。那感觉像是撞到了硬件的极限,而大多数时候那只是你当前架构的局部最优。 要判断自己是真的快,还是困在了糟糕的设计里,你需要知道你这个问题的硬件下限。对一个行数统计器来说,那就是机器遍历目录、从页缓存读取文件、在内存中扫描字节所需要的时间。 下限程序本身也可能有设计缺陷,所以我尽量让我的实现贴近系统调用。它是一个单独的 C 文件(gcc -O3 -march=native),基于 opendir/readdir、open、read、mmap、pthread 和 <immintrin.h>,使用静态缓冲区,热路径上不做堆分配。我在 Ryzen 7 9700X(8 核、16 硬件线程,Debian 13,ext4)上针对内核代码树分四步做了测量: 各项开销单独测量时,一起运行时并不是线性相加的。单独跑在 16 个线程上,目录遍历耗时 2.9 毫秒,对每个文件做 open 加 close 耗时 14.0 毫秒。把这段 2.9 毫秒的遍历与 30.4 毫秒的文件读取并行运行,耗时是 35.9 毫秒而不是 33.3 毫秒,因为遍历线程和读取线程会争抢同样的核心和内核 VFS 结构。一个贴近现实的下限必须让所有环节并发运行。 在所有路径都预先已知、完全不做目录遍历的情况下运行第 4 步,耗时 38.2 毫秒;而采用单一线程池、每个线程既遍历又读取的方案,与遍历线程池加读取线程池分离的方案相差不到一毫秒(40.8 毫秒对 41.1 毫秒)。遍历和线程布局都不是瓶颈,所以在这台机器上、对这棵代码树,行数统计器不可能明显低于 41 到 42 毫秒。 我写这个程序写得比较晚,当时 mezura 已经能在 88 毫秒内跑完内核,那是在我花了大量时间做性能分析之后、也正好在我说服自己“它不会再快了”之前。那时 profile 里已经没有哪个函数特别突出,88 毫秒看起来是个自然的终点。而下限表明,那一次运行里有一半以上仍然是我自己的代码。 在 16 个线程上跑几十毫秒的量级,随手的墙钟计时是噪声很大的。机器速度在一次会话期间会漂移,把两条命令的顺序对调,就能让各自的均值变动 1% 到 10%。 为了控制这一点,我写了 linebench,一个面向行数统计器的基准测试框架。它会按两种命令顺序分别运行每一张表并合并两轮结果,先检查后台 CPU 负载和电源设置,并在会话开始和结束时各测一次一个对照二进制,以显示机器漂移了多少。它还提供有用的性能洞察,比如系统调用分解、硬件 PMU 计数器、堆分配次数、内存曲线、核心扩展阶梯以及冷缓存运行。它放在 loc-conformance 组织下,以便其他统计器的作者也能参与开发,不过目前只有我一个人在维护。 火焰图显示的是时间花在哪里,而不是你删掉那段代码能省回多少时间。有三次,我删掉了一个只占火焰图采样 2% 到 5% 的小操作,墙钟时间纹丝不动。乱序核心会把廉价而频繁的指令与周围的工作一起流水线化,所以删掉它们释放不出任何周期;只有删掉整个函数调用,才稳定地节省了时间。 分支预测失败是个诱饵。我把逐行裁剪空白字符的字节循环替换成了无分支的按字处理(SWAR)算术。分支预测失败下降了 14%,指令数上升了 16%,程序却慢了 12%。那些字节循环之所以快,仅仅是因为它们短;而无分支算术每行省下 0.17 次分支预测失败,代价是每行多出大约 75 条指令。 mezura 把工作分给负责遍历目录的生产者线程,以及窃取成批文件路径来打开、读取和解析的消费者线程。给两个线程池都加上按线程的阶段计时器(等待工作、打开、读取、解析)后,得到了两个把我引向歧途的读数。 在 Linux 上,计时器显示目录遍历线程在一次约 110 毫秒的运行中存活了 90 毫秒,于是遍历看起来是慢的。单独测量时,同样的遍历 13 毫秒就完成了。那 4 个遍历线程只是不断被 32 个消费者线程抢占,而后者占满了全部 16 个硬件线程。 在 Windows 上,计时器把 File::open 记为占消费者总时间的 62% 到 70%,这让由遍历器、打开器和解析器组成的三级流水线看起来值得一做。而在 CPU 采样中,同一个调用只占 17%。差异来自调度延迟,因为一个在 CreateFileW 内部被抢占的线程,其计时器仍在继续走。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。