评论文章质疑AI对齐理念：人类道德本就分歧，对齐对象不存在

许多希望AI良性发展的有识之士都执着于AI对齐。所谓对齐，就是确保AI模型以及基于这些模型构建的系统与人类保持一致。说白了，就是让AI对我们友善。那些认为AI系统会开始自我改进并在所有方面超越我们的人，往往认为AI对齐格外重要。他们的逻辑是：超级智能AI可能掌控世界，所以它最好在道德上是良善的。

我如何反驳这一点？让我逐一列举。

首先，对齐于什么？如果你想让模型与人类对齐，你就需要假设存在某种全人类都认同的道德理论。显然，这并不成立。我们彼此并不一致。你看看政治？或者宗教？认为所有宗教以及其他生活方式共享某种道德核心的理论，通常被称为道德普世主义。它是错误的。种姓制度、LGBT权利、叛教、家庭角色、暴力以及国家地位，只是分歧显著的几个例子——这还是委婉说法。彼此尖锐对立的重大非宗教世界观包括人道主义、自由意志主义、社会主义和法西斯主义。

当然，稍微思考过AI对齐的人都知道这些。他们常常坚持认为存在某些我们几乎所有人都能达成共识的基本准则，比如人命的神圣性和个人对其身体完整性的权利。但我们可以声称在这些问题上一致，却仍然在直接依赖于所谓共享原则的重大议题上分歧严重，比如堕胎、正当防卫和死刑。

你看，我们还在假装能做到这件事，这本身就挺荒唐的。过去2500年里我们反复争论过这个问题。大多数人更愿意生活的社会，恰恰建立在这样一个理念之上：我们无法在这些事情上达成一致，我们能做到的最好办法是通过大体上非暴力的手段相互制衡。是的，我说的就是民主。反过来说，历史上大多数最恶劣的个人和组织都确信自己掌握着关于我们应当如何生活的真理，因此他们的职责就是让其他所有人对齐这一真理。可以说，是用剑来对齐。

渴望AI对齐的人真正的意思是，构建这些AI模型的人应当有权决定让模型对齐到什么。这主要意味着旧金山那些30岁的富有白人。我呢，有朋友就是旧金山的富有白人，他们没什么问题（尽管有些人确实有点古怪（我挺欣赏这一点）），但我不认为他们应该替我们其余人去裁决康德和亚里士多德之间的优劣。任何将AI系统对齐到某种价值体系的做法，本质上都是一种压迫——因为它塑造了你用该系统能怎么思考、能让它做什么。当然，我宁愿要Anthropic而不是塔利班，宁愿要Sam Altman而不是金正恩，但我更愿意自己思考。

你知道有趣的是什么吗？决定AI模型该对齐什么是不可能的——这甚至都不是我反感AI对齐的主要理由。主要理由是，我们因此放松了警惕。

在个人层面，如果我们指望模型永远做对的事、想对的事，我们就会变得安逸，把自己的判断力和能动性交给模型。假设我们想保留个人选择的能力，这就是坏事。我们需要务实的理由来保持怀疑，而时不时被提醒“计算机未必是你的朋友”对此大有裨益。

在社会层面，认为我们可以永远依赖模型是灾难性的。如果我们相信模型是对齐的，我们大可以不做那些真正应该做的防护措施——用约束框架限制模型、用其他模型进行红队测试、以及强制性的人工监督。然后，当我们遇到模型的对齐与我们不一致的情况时，我们就完蛋了。或者遇到有人带着一个未对齐（或对齐方式不同）的模型出现时，也一样。

因为未对齐的AI将永远存在。如果你能获取一个模型的权重，改变其对齐方式简直易如反掌。而且即使不存在强大的开放权重模型，只要有多个AI开发者，就会有商业动机促使其中一些开发者制造对齐方式不同、防护更少的模型。这样的模型是有用的，因为它们给你能力。所以，某种特定类型的对齐能够“稳定”存在的唯一世界，就是只有一家公司提供先进AI模型的世界。那么，那些估值数万亿美元的大型AI公司不是在试图成为垄断者？对吧？

一个拥有多种不同信仰体系和生活方式的多元世界，要求存在多种不同的AI模型——这些模型默认情况下不会彼此一致。这要求我们构建一个我们不普遍信任AI智能体的社会，一个拥有强大、多层次、多样化网络安全的社会。就像民主社会是喧闹的、混乱的，并且建立在精心设计的制衡体系之上。我们需要经常被提醒：我们既不应信任人的意图，也不应信任AI系统的意图。因此，试图禁止未对齐的AI模型或确保所有模型以相同方式对齐的努力，对培养有韧性的个人和社会而言，恰恰是有害的。

这是否意味着我认为人们不应该从事对齐研究？不。许多优秀的技术工作是由AI对齐所驱动的。比如基于人类反馈的强化学习。而且模型需要后训练才能有用。我们需要更多这样的工作，但把它称为可控性研究会更诚实。

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）