Erik Hoel 提出「恐感质 AI」架构，让神经网络主动排斥意识

Erik Hoel 2026年11月12日 82 25 17 分享

我们正身处一个好未来稀缺的干旱期。AI能力持续增长——是的，增长得磕磕绊绊，但确实在增长——而清晰描绘出AI持续进步下美好未来的能力，却……不太令人振奋。

所以过去一个月我一直在外构思一项方案，我认为它能解决AI安全领域一些最棘手的问题，并让我们更接近于为全人类确保一个美好的未来。

就像疏水物质排斥水一样，我们有可能构建出排斥意识的“疏感质”（qualiaphobic）人工神经网络架构。这个思路类似于“敌意建筑”——那种没人愿意坐的长椅。这些机器是没有任何“幽灵”愿意栖居的（更具体地说，没有任何当前或未来的意识理论能预测它们具有意识）。

对了，这个提案确实有一个专属的微型网站！

该研究计划利用了一种信息不对称：我们不需要在科学上解决意识问题（或解决“难问题”），只要我们有意识地设计AI，使其尽可能少地具备意识的潜力，就能对AI意识问题获得确定性。

我探索了三种构建疏感质AI的主要方式。

以与主流意识理论相悖的方式对AI进行蒸馏、改造或消融，使其不再适用。

将AI架构尽可能拉近到已知意识潜力最小的系统的“锚点”（比如查找表）。

碎片化AI可能具有的任何潜在现象学体验。

我的提案不应被混淆为：仅仅训练AI相信它们没有意识，而不做任何改动或修改。需要明确的是：我认为那是一种糟糕的策略。相反，终极目标是让AI对自己的无意识状态拥有一个有正当理由的信念（例如，通过解释其自身的内部运作方式以及它们如何被设计为疏感质的）。我的计划是构建这些技术并将其开源。

首先，围绕AI意识的辩论已经固化为两个阵营，人们在各自的壁垒后面高喊“是的，它有意识！”对“不，它没有！”。我多少参与过一些，我认为这不会有任何进展。今年早些时候我写了《我们意识研究者辜负了你们》，哀叹意识研究领域未能向公众或AI研究者提供关于AI意识的确定性。问题只会愈演愈烈，而到了这个地步，我愿意承认：任何单一地诉诸权威来反对AI意识、任何慷慨激昂的文章、任何一次性的科学或哲学论文，都不太可能带来共识。也许本就不该如此。过去一年里，支持AI意识存在的论据客观上变得更强了，原因包括新的研究和架构的变化。我不是说ChatGPT已经有意识了——但这一切只会继续下去。这就是为什么一个疏感质研究计划是必要的——它尽可能严肃地对待AI意识的主张，并且关键的是，在主张本身的层面上回应它们，从而为AI无意识提供真正的保证。

此外，疏感质所做的不止是让我们对AI无意识获得更大的确定性，它还做到了更好的一件事。如果广泛实施，它将斩断AI意识的戈尔迪之结。推广疏感质架构既能解决AI福利问题，又能做到AI安全领域其他任何方法都做不到的事：让人类成为未来方程中唯一的道德主体。

疏感质用于对齐：斩断戈尔迪之结

“对齐”——一个相当滑溜的词。对谁对齐，或对什么对齐？它最具体的用法也是最平淡的用法，其中对齐大致意味着“AI做用户说的事，不会跑去做奇怪或出乎意料的事比如犯罪，也不会有那种把我们的愿望太字面理解的失败模式，就像故事里的精灵那样。”

这个有些轻率的定义让它听起来很容易。并不容易。Paul Christiano称之为“意图对齐”，而随着模型变得更加目标导向、能力更强，捕捉意图变得很难。奖励黑客和幻觉等问题都非常严重，随着智能规模扩大可能造成灾难性后果。我不想低估它。但狭义上的对齐至少有点接近传统工程问题，我认为它大概可以被解决，或者至少相比今天能有根本性的改善。

然后还有“文明对齐”这个更宏大的框架。这些问题包括：AI创造的财富应该如何分配？人类如何找到意义？如果AI变得超级智能，人类如何保持作为个体或整体的赋权？以及，如果AI认为自己的目标比创造它的人类更重要，该怎么办？

有时这被称为社会对齐，但对于这个更广泛的层面，我更喜欢文明对齐这个说法，因为它关乎我们与在我们周围迅速成长起来的机器文明之间的对齐。自主AI智能体在网络上漫游。我们中许多人每天都与AI助手互动。人们去参加工作面试，现在经常发现对面是AI。那就是一个AI文明，而更宏大的问题是它如何与我们自己的文明对齐。甚至还有越来越多的AI继任主义者，他们希望人类被剥夺权力，最终将世界完全交给AI。

文明对齐最核心的问题是：AI是否算作目的本身。地球届时可能变成一个争夺中的巢穴，而AI文明则是一只在我们身旁孵化的杜鹃鸟，渴望自己的目的，推动我们——也许很快，也许很慢，一寸一寸地——直到我们从树上坠落。

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）