返回资讯中心
外部精选
软件工程
#开发者实时流

Amdahl定律解析:并行工作为何未必更快

来源标题:Amdahl's Law and Parallel Work

Amdahl定律同样适用于人类团队协作:把工作分给多人并不会自动按比例缩短时间。分工带来的协调与整合成本会扩大非并行部分,而并行阶段的耗时取决于从第一个任务开始到最后一个任务完成的整体跨度,延误和中断可能使并行比串行更慢。

Hacker News 最新ingve2026/11/22 · 今天30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

如果四个人各承担四分之一的工作,难道不应该用四分之一的时间完成吗? 有时我们确实能得到非常好的改进。有时我们却得到四个忙得不可开交的人,以及一个不断后移的交付日期。 我在 Industrial Logic 的《Shouldn't It Be Faster?》一文中探讨过这个问题。那篇博客是对 Amdahl 定律以及我们在尝试并行化人类工作时所面临的某些陷阱的合理入门。 团队不是多核 CPU。人不是计算机。但这并不意味着 Amdahl 定律不适用。它只是意味着我们必须考虑上下文。 对于一个由相继的串行阶段和并行阶段组成的流程,总耗时是这些阶段之和。每个并行阶段从它第一次开始持续到它最后一次所需完成。 划分工作会增加协调和集成的工作量。当这些工作必须在划分后的任务之前或之后进行时,它就扩大了非并行部分。 并行阶段从第一个任务开始持续到该组中最后一个任务完成。任何延长这段时间的因素——所有的延迟和中断——都可能导致并行部分比串行执行时更长。 然而,看起来我们应该能够赢得这场比赛。并行是一种强大的技术,妥善处理它应该能给我们带来巨大的优势。 假设一项工作需要十个小时。开头一小时和结尾一小时必须在串行时间内完成。 假设剩下的八个小时可以分成四个完全独立的部分。 如果有能力强的工人,并且所有人都能立即投入,那八个小时可能只需要两小时的 elapsed time。两个串行小时仍然需要两小时。 这项工作需要四小时。这是 2.5 倍的加速。 Amdahl 定律的常见固定工作量形式是: 这里,(p) 是原始执行时间中可以从并行执行中受益的比例。(N) 是理想并行工作者的数量,(S(N)) 是整个工作的加速比。这假设工作量相同、并行部分完美划分,并且没有额外开销。Cornell 的解释详细推导了这个过程。 即使拥有无限的并行能力,也无法让这项不变的工作低于两小时。加速比接近原始速率的五倍。 缩小串行部分可以改变这个限制。向可分割部分增加更多工作者则不能。 这是一个执行固定计算的模型。软件开发涉及发现、判断以及改变主意。 这个简单的方程没有体现延迟启动、中断、人与人之间的沟通或状态汇报。而这些对我们的比较至关重要。计算机系统也可能有调度延迟和通信开销;理想的算术只是忽略了它们,而不是让它们消失。 我们不能数一数开发人员,用那个数字代替 (N),然后宣布一个交付日期。我们也不能从标有“编码”的工单百分比推断出 (p)。 有用的问题是:在通往可用结果的过程中,当我们划分工作时,哪段时间实际上缩短了? Amdahl 的模型让我们识别出我们期望改进的部分。它并不确定某个特定团队能实现多少并行度,也不确定结对工作是否会改善该团队的工作。 对于我们的实际决策,替代方案是两三个人协作完成整个工作。拆分必须节省足够的时间来弥补其额外的规划、沟通、状态汇报、集成和中断,并且仍然优于那个替代方案。这些比较需要观察。 还有一个问题。划分工作可能会产生原本十小时中不存在的工作。 在划分后的任务开始之前,我们可能需要协商接口、分解工作并安排任务分配。之后,我们可能需要组装结果、调和不相容的假设并验证整体。就这些活动必须在划分后的任务之前或之后进行而言,它们扩大了流程的非并行部分。 这些成本需要单独核算。它们不会神奇地包含在我们改变流程之前所测量的比例中。 Robert G. Brown 的并行性能论述明确地将设置、通信和空闲时间成本添加到简单模型中。 对于一个在划分后任务之前有准备工作、之后有最终集成的简单流程,我们可以将总耗时核算为: (B) 是第一个划分后任务开始之前的时间。(E) 是从第一次开始到最后一次所需完成之间的 elapsed interval。(A) 是之后用于集成、验证和完成的剩余时间。 在我们的十小时例子中,原始串行时间总计两小时。四条理想通道将八小时部分减少到两小时,使我们总共四小时。如果划分和最终集成在该阶段之外又增加了三小时,我们现在需要七小时。如果增加六小时,我们就回到了十小时。增加更多,即使并行执行完美,拆分也会损失时间。 对于这种简单的安排,只有当划分工作阶段内节省的时间超过其外额外的时间时,拆分才会获胜。 这是 elapsed-time 核算,而不是人时总和。如果准备或集成与任务重叠,只计算一次时间,即在时间线上发生的位置。更复杂的工作流需要它们实际的依赖时间表。这些是说明性计算,不是测量的团队数据。 并行阶段的时钟从第一个划分后任务开始时启动。当最后一个所需任务实际完成时停止,包括该部分被接受所需的任何修正。当一个工作者在等待、被中断或做其他事情时,时钟继续运行。 从任务分配到第一次开始之间的时间仍然计入交付;它落在这个区间之前。最后一部分之后的未完成集成落在它之后。将延迟跨越这些边界移动并不能让它消失。 想象四个独立的部分,每个需要两小时。它们被一起分配,但有一位专家直到第六小时才能开始。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →