
神经科学教授Anil Seth获2025年Berggruen奖,撰文质疑有意识AI
来源标题:The Mythology of Conscious AI
苏塞克斯大学神经科学教授Anil Seth凭文章《有意识AI的神话》获2025年Berggruen奖论文竞赛奖。他在文中论证意识更可能是生命的属性而非计算的产物,并认为创造有意识、甚至看似有意识的AI是个坏主意。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
意识更可能是生命的属性,而非计算的属性;创造有意识的AI——甚至只是看起来有意识的AI——是个糟糕的主意。
Anil Seth凭借其英文文章《有意识AI的神话》荣获2025年度Berggruen哲学奖征文竞赛奖。
Seth是苏塞克斯大学神经科学教授、意识科学中心主任,同时也是加拿大高等研究院“大脑、心智与意识”项目的联合主任。他著有《成为你:意识的新科学》(Dutton出版社,2021年)。
几个世纪以来,人们一直幻想着扮演上帝,创造人类的人工版本。这个梦想随着每一波新技术的浪潮而被重新演绎。基因工程带来了克隆人的前景,机器人技术则带来了类人仿生人的前景。
人工智能(AI)的崛起是又一个破浪之势——可能是一场海啸。我们周围的AI系统可以说已经具备智能,至少在某些方面如此。它们无疑还会变得更聪明。但它们是否有意识,或者是否可能拥有意识?为什么这很重要?
合成意识的文化历史既漫长又大多不幸。从傀儡Yossele,到Mary Shelley的《弗兰肯斯坦》,从《2001太空漫游》中的HAL 9000,到《机械姬》中的Ava,再到《克拉拉与太阳》中的Klara,创造既能思考又有感受的人工身体和合成心智的梦想很少有好结局——至少对人类而言如此。我们从这些故事中学到一件事:如果人工智能正走向真正的意识,甚至走向那些令人信服地看似具有意识的系统,那么利害攸关的事情就很多——且不仅限于就业市场的冲击。
有些人认为有意识的AI已经到来了。在2022年接受《华盛顿邮报》采访时,Google工程师Blake Lemoine对他正在研究的AI系统——一个名为LaMDA的聊天机器人——提出了惊人的主张。他声称它有意识、有感情,并且在重要意义上像一个真正的人。尽管媒体大量报道,Lemoine并未被太当回事。Google以违反保密政策为由将他解雇,而AI的潮流继续滚滚向前。
但他提出的问题并未消失。因违反保密规定而解雇某人,与因判断错误而解雇某人,是两回事。随着AI技术的不断进步,关于机器意识的问题越来越多地被提出。该领域最杰出的思想家之一David Chalmers提出,有意识的机器可能在不久的将来成为可能。真正的AI先驱、新晋诺贝尔奖得主Geoffrey Hinton则认为它们已经存在。2024年底,一群知名研究者发表了一篇广为传播的文章,论述认真对待AI系统福利的必要性。对于AI和神经科学领域的许多顶尖专家来说,机器意识的出现是一个“何时”而非“是否”的问题。
我们如何看待有意识AI的前景至关重要。这对AI系统本身很重要,因为——如果它们有意识,无论是现在还是将来——有意识就意味着拥有道德地位、承受痛苦的可能性,或许还有权利。
这对我们同样重要。无论现实如何,我们对AI意识的集体看法已经承载着巨大的重要性。如果我们觉得我们的AI伴侣真的能感受事物,我们的心理脆弱性就可能被利用,我们的伦理优先级可能被扭曲,我们的心灵可能受到摧残——把看似有意识的机器当作没有感情的东西来对待,在心理上是不健康的。而如果我们真的赋予AI造物以权利,我们可能无法关闭它们,即使它们的行为违背我们的利益。
也许最重要的是,我们如何看待有意识AI,关系到我们如何理解自身的人性,以及如何理解那些让我们的生命值得过下去的意识体验的本质。如果我们过于轻易地将自己与机器造物混为一谈,我们不仅高估了它们,也低估了自己。
为什么我们会认为AI可能有意识?毕竟,计算机与生物有机体截然不同,而目前大多数人一致认为有意识的东西都是由肉做的,不是金属。
第一个原因在于我们自身的心理结构。作为人类,我们知道我们有意识,并喜欢认为自己很聪明,所以我们自然而然地假设两者是相伴而生的。但仅仅因为它们在我们身上相伴出现,并不意味着它们在一般情况下也总是如此。
智能和意识是两回事。智能主要是关于行动:解填字游戏、组装家具、应对棘手的家庭状况、走去商店——所有这些都涉及某种形式的智能行为。一个有用的智能通用定义是:以灵活手段实现复杂目标的能力。还有许多其他定义,但它们都强调系统的功能能力:将输入转化为输出、把事情办成的能力。
人工智能系统的衡量标准是它执行某种智能行为的能力,尽管不一定是类人形式。相比之下,通用人工智能(AGI)的概念明确参照了人类智能。它应当匹配或超越人类的认知能力。(还有人工超级智能,ASI,即AI自我提升到超越我们理解和控制的程度。ASI往往出现在关于我们可能未来的更具存在性焦虑的场景中。)
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。