返回资讯中心
外部精选
软件工程
#开发者实时流

科技从业者缺乏对制度未来的积极愿景

来源标题:The Silent Consensus

演讲者指出,科技行业并不缺少对技术未来的积极愿景,真正缺少的是对制度未来的积极愿景,即这些技术将如何在社会制度中运转。最常见的制度愿景并非积极的,若不思考希望实现或避免的长期未来,即便每一步决策明智,也可能走向不理想的宏观结果。

Hacker News 最新jger152026/11/19 · 今天30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

但我今天想和你们谈的,并不是那些迫在眉睫、需要紧急应对的事情。相反,我想谈谈在更大的图景下,事情可能会走向何方。在如此密集的紧迫议题之中,思考这些更抽象、更飘渺的问题并不容易。但这些问题很重要,因为如果我们不清楚自己想要实现怎样的长期未来——以及想要避免怎样的未来——那么即使我们在每一步上都做出了明智的决策,最终也可能得到一个我们不喜欢的宏观结果。

人们常说,科技行业对于它所构建的事物将把我们带向何方,缺乏一个积极的愿景。我不同意这种说法:旧金山和其他创业中心充满了对技术未来的积极愿景。人们确实在建造飞行汽车、自动驾驶汽车、各种大小和形状的机器人、核聚变,当然还有通用人工智能。我们真正缺乏的,是对制度未来的积极愿景:这一切将如何运作?

然而,这并不是说不存在关于未来的制度愿景。不幸的是,我认为最常见的那种愿景,并不是我会称之为积极的愿景。当它被明确表达出来时,通常也只是在窃窃私语中。但更多时候,它被隐而不宣,只能通过暗示来辨识。我称之为“沉默的共识”。

设想一家几乎可以在没有人类劳动的情况下完成一切的公司。它的AI系统进行研发、做出发现、谈判合同、分配资本、进行制造。假设它在这些事情上比人类竞争对手做得更好,即使那些人类借助AI来增强自己的能力也是如此。如果人类的参与只会拖慢业务的速度,人类管理者和所有者就会有强大的动机放手不管。如果这种情况在全球经济中普遍发生,人类将被市场竞争的逻辑驱使,放弃自己在全球商业中的主导地位。随着时间的推移,市场可能同样多地——甚至更多地——服务于机器的需求,而非服务于人的需求和欲望。

那之后会发生什么,谁也说不准。也许人类会受益匪浅。如果那些吸纳了我们的机器对人类怀有高度的内在尊重,我们可能成为它们劳动及其所创造财富的受益者。又或者,在被剥夺了经济权力以及越来越多的政治权力之后,人类会发现自己在这个世界中越来越无关紧要,越来越无力塑造世界事务的走向。也许少数人会掌握非凡的权力和财富,以广大被剥夺权力的大众为代价;又也许我们所有人都会面临同样的命运,即被剥夺权力。无论具体情形如何,构成“沉默的共识”的共同主线是:人类在我们所熟知的世界中的主导地位将走向终结。

这些情景中没有任何一处要求AI反叛其创造者。也没有任何一处要求其所有者希望人类被剥夺权力。每一个委托的决定单独来看都合情合理。然而,合在一起,这些决定可能产生一个人类已经放弃对文明大部分领域有效权威的世界。即使我们在AI安全和对齐这些棘手问题上取得非凡进展,我们仍然可能发现自己已经臣服于一种新型的机器实体。在未来的幸福版本中,“沉默的共识”会告诉我们,那个实体将是仁慈的,是一台将人类的最大利益放在心上的机器。正如Brautigan的诗中所说,是一台充满爱的优雅的机器。

“沉默的共识”告诉我们,我们将把公司的钥匙交给这些机器,而且越来越多的治理机构的钥匙也将交给它们。它们将以比我们人类更卓越的智慧、更出色的判断力,更有效、更高效地运营这些机构。于是,随着时间的推移,我们将把手从方向盘上移开,让这些充满爱的机器接管驾驶。我们将像汽车里的乘客——一辆非常好的车,也许是一辆物质上比我们今天所能梦想的还要好的车——但终究只是乘客,无法控制车辆驶向何方。如果我们工作,那主要也是作为一种仪式或表演,更像是为了取悦我们这个物种的一场游戏。

一些观察者会争辩说,“沉默的共识”建立在一个错误的前提之上,因为今天的人类本来就没有控制世界。这个批评值得铭记:并不存在一个决定该做什么的“我们”。无论我们喜欢与否,我们都生活在一个极度去中心化的世界里。然而,这一点也不应让我们自满:虽然“我们”并不“控制”世界,但人类作为一个整体确实在世界事务中拥有主导地位。没有任何一种动物能真正与我们竞争对资源的控制权。我们应当拒绝那种在思想上草率的观念,即人类可以对世界实施自上而下的控制;但我们也不应把对这种观念的拒绝,与否认一个显而易见的事实混为一谈——这个事实就是,人类作为一个整体是地球上最主要的行动者。

一些愿意明确表达“沉默的共识”的人相信,那确实是一个美好的未来。另一些人则不这么认为,但已听任其必然性。之所以说它是一种共识,并不是因为每个人都同意它是好的,也不是因为它是建造AI的人之间的秘密计划。这种共识仅仅是:人类对世界事务主导地位的丧失是不可避免的,或者至少,很难想象另一种对未来真正稳健的愿景,能够抵御超级智能机器。一个人可以真诚地反对那种结果,同时又发现很难构想出一个可信的替代愿景。“沉默的共识”之所以大多是沉默的,充其量只是低声私语,这正是线索所在。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →