研究指出过度追求效率可能适得其反

插图：Elia Barbieri/《卫报》 查看完整图片 插图：Elia Barbieri/《卫报》 大创意·数学 效率陷阱：为什么优化一切可能适得其反 从环岛到股市，无休止的精简可能正在让世界变得更危险 更喜欢在Google上阅读《卫报》 我们都经历过这种场景：在火车上肩并肩挤得满满当当，旁边的人还在咳嗽打喷嚏。一针预防流感的疫苗能带来些许安心，但想到万一需要时会有医院床位等着你，也同样让人放心。然而，去年流感季高峰期，英格兰约95%的成人医院床位已被占用。 如果医院是酒店，这样的入住率意味着生意兴隆，我们会称赞其高效。但我们真的希望医院的后备床位少到只差一个糟糕的流感周，就不得不在走廊里救治病人吗？ 这就是效率的微妙之处。我们通常认为效率越高越好。但我们可能过于专注于改善某一件事，而忽略了其他方面。你可以试着把日程安排得每一分钟都有安排，但很快你就会开始超时，最终落后于计划。会议之间的空隙看似低效，但正是它让你的日程在意外发生时能够恢复。 数学家对效率的追求有一个名字。我们称之为优化。给我们一个需要最小化或最大化的目标——成本、时间、燃料、利润——我们就会尝试找到最佳可能的答案。在人类历史的大部分时间里，人们靠常识进行优化。但计算机极大地扩展了可以有效处理的范围，从航班时刻表到供应链。社会获得的收益是巨大的。但在对最优性的不懈追求中，至少有三个陷阱需要警惕。 AI如今有可能让所有三个优化陷阱比以往更加危险 医院床位的例子说明了第一个陷阱：挤出过多余量，削弱系统的稳健性。在一个平静的周二夜晚，一张空床位可能是冗余的，但当流感病例激增时，它是安置下一位病人的宝贵空间。如果你以系统在普通条件下的表现来评判它，你可能会失去应对极端挑战性情况的能力。 第二个陷阱是对“最佳”的定义过于狭窄。以Milton Keynes市为例。它由城市规划者于20世纪60年代末设计，采用美式网格系统。随着城市开始建设，环岛而非红绿灯成为其道路交叉口的标志性特征；如今大约有130个环岛。环岛对交通流量很有利，但它们带来了一个如今臭名昭著的代价。你坐过从牛津到剑桥的长途客车吗？一小时后，你能看到Milton Keynes的美丽景色，但整车乘客却感到恶心，因为客车要应对一个又一个环岛。减速、左转、右弯、加速。当你的胃在翻腾时，很难欣赏车辆的无缝汇入。 交通流量固然重要。工程师发现优化很方便，因为它相对容易测量。另一方面，乘客舒适度则更难量化。在这种情况下，优化为你提出的问题给出了最佳答案，但可能对你未能考虑的问题给出不受欢迎的答案。 第三个陷阱出现在优化尝试相互冲突时。即使系统的每个部分都在以最优方式运行，整个系统也未必如此。2010年5月6日，美国金融市场戏剧性地展示了这种效应。在本已下跌的市场中，标普500指数在短短五分钟内又暴跌了5%。上行方向的剧烈波动更加疯狂；10分钟内，市场已经恢复。数百种个别证券短暂地以荒谬的低价交易。 这些剧烈波动的触发因素之一是一个自动程序卖出了75,000份期货合约，价值超过40亿美元。其他自动交易者几乎立即做出反应。然后它们的反应相互反馈，流动性蒸发。这些算法的行为单独来看可能是合理的，但它们结合在一起产生了集体动荡。 这就引出了人工智能。AI是历史上最壮观的优化胜利之一。在训练过程中，大量参数被反复调整，使模型在预测语言、编写计算机程序、回答科学问题和提供法律建议方面变得更好。不幸的是，AI如今有可能让所有三个优化陷阱比以往更加危险。第一个陷阱——去除余量的冲动——可能诱使组织放弃在算法更聪明的时代看似冗余的人类监督。当机器能处理日常杂务时，为什么要保留有经验的员工？但在削减这种人力时，你可能失去发现和处理特殊情况的能力。 第二个陷阱——对“最佳”含义的狭隘看法——如果我们把智能视为在排行榜上得分最高的东西，就会出现。我们非常擅长构建在用户满意度等指标上表现良好的人工智能系统，但我们发现很难针对判断力或同理心进行优化。事实上，研究人员发现，根据人类偏好训练算法可能会鼓励AI谄媚地同意我们，而不是告诉我们令人不安的真相。

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）