研究：LLM进入软件开发后，系统设计面临控制与复杂性张力

LLM 在软件开发中的采用，让无数组织迅速改变了自身的实践与结构。围绕编写新代码的经济账被重新洗牌，旧方法遭到质疑、被替换、被改作他用。由于人类与 LLM 并不能互换，其中起作用的 dynamics 也大不相同。系统终究是系统，因此无论具体在变的是什么，都有已知的模式可供借鉴，为我们提供一些指引和警示。

如果不先退一步，审视你所处系统的设计背后那套思维方式，你得到的措施和政策很可能就是有些 incoherent 的（这里指的是“相互冲突”“彼此矛盾”，而不是“毫无意义”）。因此在这篇文章里，我想通过对比两大类方法，来讨论我们该如何组织系统。

第一类是关于分析式分解（analytical decomposition），目标是维持对系统的控制；另一类则基于复杂系统的视角——这类系统抗拒分析，关注点往往在于弄清各种交互与机制，以培育理想的涌现行为。

对比这两者，一直以来都有助于厘清系统设计中的假设与关键要素，而在当下有人提出新型变革的背景下，它依然切题。

经典科学、工程学以及许多管理形式的核心，都建立在这样一个观念上：整体可以从其部分来理解。把一个复杂事物分解得足够细，你就能对每个组件获得彻底而详尽的理解，进而应当能知道整体是如何运作的。这种方法——分析式分解（有时也被称作“笛卡尔-牛顿式”）——在现代生活的无数领域中都值得信赖、可靠。

这种切分、分析、理解的能力，通常还能延伸到对时间上因果关系的理解：每个作用都有一个反作用，每个事件都有其物质原因，而这些都可以被追溯、评估或客观检验。由此可以反推：如果我们对某个对象理解得足够充分，就能预测它在受到作用时会如何表现。

这是构建任何具备可预测性和可靠性的机器与流程的基础。你可以有一个高层目标，以及许多彼此独立的部件，把问题拆解，组装经过充分测试、处于容差范围内的组件，从而得到一个可用的解决方案。一个推论是：如果机器中的每个部件都扮演好自己的角色，那么机器本身就应该运转良好。

这要求驯服一个凌乱、混沌的世界，控制各类参数，使变异性能够被限定在边界之内。设计时留足容差和冗余，事情就应该能行得通。若不然，我们可以深入进去，把它拆开，弄清哪里坏了，修好它，并因此变得更好。

这种方法无处不在，从信号处理与电信领域——通过冗余来检测和纠正有损信息传输——一直到工业质量控制，在那里可以用统计过程来界定可接受的生产边界。

它同样存在于人的层面：在人因工程中，诸如工作记忆（典型操作员能在脑中同时记住多少东西）或理想观察者（一个理论上的、以最优频率监视仪表的人，我们据此来定义“懈怠”）这类概念被构建出来，目的就是确保有人参与的系统能让人的行为保持在理想参数之内。

它在组织层面也同样可见。

官僚流程与层级制度旨在保持自上而下的对齐，使整个集合协调运转。纪律与可读性（legibility）的机制发挥作用，把组织的演化置于控制之下。在更大的尺度上，组织常常试图控制其所处环境、市场或立法语境。

基本上，通过决定一个流程内部可以接受多少混乱，我们就能在其外部为他人定义一个更清晰的接口来交互。这种抽象创造了一种简化但有效的方式，把复杂的集合归并为一个可管理的单元。

软件最终成了这种思维的一种理想化身：系统可以用能确保一定程度的、来之不易的确定性的语言来编写。执行在理想情况下始终相同，没有磨损，昨天能跑的东西明天在任何地方都能跑。在远离一线的地方制定的政策决策，可以在各个层级被确定性地强制执行。

这意味着系统可以从组件自下而上地构建，与自上而下的意图对齐，限制来自机械加工或人类行为的变异性。其理想是一个高度可预测、受控、有竞争力且反应灵敏的系统。

问题在于，复杂系统按定义就抗拒分析式分解。

关于复杂系统有许多相互竞争的描述，有些是行为层面的，有些是结构层面的。它们归根结底都类似这样一句话：“事物之间的互联程度如此之高、状态如此之多，以至于它们变得要么无法表征、要么无法预测、要么无法控制。”

其他关键要素在于：这些系统是动态的，深受自身历史的影响，而且是开放的——它们不断变化、不断交互，且不以清晰的边界为界。这就造成了一种张力：众多参与者有着各自不同的目标、视角、表征和自由度。等你分析完这个系统时，它已经是另一个东西了。甚至观察系统本身，也会以重要的方式改变它。

换种说法：如果你发现自己对系统的行为感到意外，那么等你弄清楚到底发生了什么时，它已经是一个不同的系统了，而你的政策调整要么滞后，要么在助长更多反直觉的意外。复杂系统更多是被影响，而非被控制。

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）