Linux 内核通过 EPOLLEXCLUSIVE 缓解惊群问题
来源标题:Thundering Herd Problem
Linux 内核在 epoll 中引入 EPOLLEXCLUSIVE 标志,使多个 epoll 集等待同一资源时只唤醒一个,缓解惊群问题。惊群问题指大量进程或线程被同时唤醒,但仅一个能响应,其余失败后重新休眠,浪费 CPU 等系统资源。Windows 的 I/O 完成端口也可缓解该问题。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
惊群问题(Thundering Herd Problem)是计算机科学与计算机网络中的一种性能退化现象:大量进程或线程通常因某个特定事件或资源可用而被同时唤醒,但最终只有一个进程能够响应该事件或访问新资源,其余大多数进程只能失败并重新进入休眠。这种不必要的唤醒会消耗 CPU 及其他系统资源,可能降低整体性能,并拖慢那个成功处理的进程。[1]
当惊群问题发生在访问缓存的过程中时,通常被称为缓存击穿(cache stampede)。[2]
Linux 内核将对同一文件描述符的请求响应串行化处理,因此只有一个线程或进程会被唤醒。[3] 在 Linux 内核 4.5 版本中,epoll() 新增了 EPOLLEXCLUSIVE 标志。这样一来,多个 epoll 集合(不同的线程或进程)可以等待同一资源,而只有一个集合会被唤醒。对于某些工作负载,该标志可以显著减少处理时间。[4]
同样,在 Microsoft Windows 中,I/O 完成端口(I/O completion ports)可以缓解惊群问题,因为可以将其配置为在事件发生时只唤醒等待该完成端口的一个线程。[5]
在依赖退避机制(例如指数退避)的系统中,客户端会在连续重试之间等待特定时长后重试失败的调用。为了避免惊群问题,可以有意引入抖动(jitter)来打破客户端之间的同步,从而避免冲突。在这种方法中,重试之间的等待间隔被加入随机性,使客户端不再同步。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。