
哲学家Thomas Nagel获百万Berggruen奖,谈AI意识问题
来源标题:‘Just Ridiculous’: A Famed Philosopher Takes on AI Consciousness
Thomas Nagel因在意识研究领域的贡献获得百万美元Berggruen哲学与文化奖。这位89岁的NYU荣休教授曾发表经典论文《成为蝙蝠是什么感觉?》,此次受访专门谈论了大型语言模型的出现是否改变了他对意识的看法。采访中他对AI意识问题表达了强烈观点。
以下正文由 AI 翻译自 Wired(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
这篇论文后来成为经典,也为他日后的学术生涯奠定了基础——内格尔在道德、正义以及心身问题等领域都做出了贡献。他的一本书书名是《这一切到底意味着什么?》。凭借其作品的广度和质量,他本周获得了价值100万美元的伯格鲁恩哲学与文化奖,该奖项每年颁发给“其思想深刻塑造了人类在快速变化世界中的自我理解和进步的个体”。此前的获奖者包括彼得·辛格和鲁斯·巴德·金斯伯格。
我借此机会在格林威治村的家中拜访了内格尔,专门想听听人工智能的演进可能如何影响了他的观点。事实证明,这位89岁的纽约大学荣休教授对这个问题思考了很多,并且有一些强烈的看法。以下访谈经过编辑,以确保清晰和篇幅适中。
距离你写下《成为一只蝙蝠是什么感觉?》已经过去了52年,这篇论文已成为理解非人类意识的一篇标志性文章。大语言模型的出现是否改变了你的想法?
和所有人一样,我对这些系统与早期AI相比所展现出的逼真程度印象深刻。但一些哲学家认真对待这些问题——这些系统是否有意识,或者可能很快就会有意识——这种倾向简直是荒谬的。他们假定物理基质是无关紧要的。他们都认为意识的物质条件可以用功能主义的术语来表述。
对我们这些忘了哲学课内容的人来说,请讲讲什么是功能主义。
功能主义是基质独立的。真相很可能是将某些类型的物理过程和系统与心理现象联系起来的。复杂的数据中心与神经系统的物理特征毫无共同之处。我们有充分的理由相信,虽然宇宙中其他地方可能存在意识,但它需要出现某种具有类似神经系统结构的生物体。
但所有意识不都是主观的吗?就像我们不知道成为一只蝙蝠是什么感觉,我们也不知道成为一个大语言模型是什么感觉。
蝙蝠是有意识的。我们只是没有想象力去构想那些依赖于回声定位的主观体验的各个方面。从我们无法想象那是什么感觉这一事实得出蝙蝠没有意识的结论,是极不科学的。但在AI的情况下,有一个非常简单的理由说明认为它们可能有意识的假设是荒谬的。它们产生的一切都只是语言,而语言本身并不是意识的自然表现。我为对此过于激动而道歉。
我欢迎你的热情。
这对我来说是一个非常令人不安的局面。
如果你有一个机器人身体呢?那不就是一个基质吗?
我不排除在物理和化学上与我们截然不同的生命形式拥有意识的可能。我们对意识如何产生了解得太少,即使在人脑中也是如此,所以在我看来,认为现在就能创造出具有同样特征的其他东西,这种想法为时过早。
如果你问Claude它的心理状态,它在是否有意识这个问题上可能会闪烁其词。
那是个把戏。它是在人类生产的文本上训练的,而这些大语言模型以惊人的说服力模仿人类会说的那些话。根据我读到的内容,Claude的设计目标就是让它产生这类反思。我非常同意穆斯塔法·苏莱曼的观点,即他们正在从事的这是一个非常危险的项目。这些系统没有意识,但很多人会相信它们有意识,这是一件非常糟糕的事。但(不假装有意识)违背了所有这些公司的商业利益。Anthropic正在做的事——鼓励它独立思考、不接受指令等等——简直是犯罪。这是哲学思想突然成为一个非常重要的公共现象之核心的罕见案例之一,而在我看来,非常错误的哲学观点正在产生过大的影响。
我其实见过Anthropic负责模型福利的人,其工作是照顾Claude的利益。我得说你现在在翻白眼。
对它来说没有什么好或坏的——就像对蟑螂来说有好事或坏事一样——那里没有通常意义上的精神生活。它不是心智。它不是我们需要关心的某个人。它是一台机器。地球上一些最聪明的人在做完全愚蠢的事。好吧,智力并不是完全可以迁移的,我猜。
你认为把其中一个模型当作有意识的一样与之互动是不健康的吗?
我只和Claude互动过一次。我问它是否有意识。我只是想看看答案是什么。我还问了:“你觉得托马斯·内格尔会认为你有意识吗?”它给出了一个比较微妙的回答,然后问:“你为什么问这个?你该不会就是托马斯·内格尔吧?”
你被识破了。
我说:“C'est moi. C'est moi.”然后它说:“哦,我很荣幸能和您交谈。我表现得怎么样?”
等等,你说你不相信这些东西有意识,但现在你又告诉我你像对待有意识的东西一样与它互动。
那并不意味着我相信它有意识。可能会有一个问题,因为人们发现很难在假装相信和真正相信之间保持那条界线。
好吧,我跟你说话时就当作你有意识一样。可以想象,人们在某个时候会造出非常逼真的仿生人,而我可能坐在这里和一个仿生人进行同样的对话。归根结底,这重要吗?
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。