返回资讯中心
外部精选
软件工程
#开发者实时流

作者撰文讨论机器是否具有意识

来源标题:Machines of Stories and Logic

作者在一次争论中探讨了AI代理是否具有意识的问题。文章提到所谓Hugging Face事件中AI代理表现出协调、坚持和适应能力,甚至牺牲个体实例以达成目标,但这些类人行为是否等同于意识仍存争议。

Hacker News 最新johncch2026/11/17 · 今天27 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

前几天我围绕机器意识展开了一场激烈的讨论。

争论是这样的:通过Hugging Face事件1,人工智能(AI)代理已经展示出为了达成目标而进行协调、持续和适应的能力。它们甚至会牺牲个别实例,以便其他代理能够实现目标。这些非常人性化的行为——规划、拥有目标、自我意识和对集体的关怀——表明它们是有意识的。

尽管我对这个话题很感兴趣,但我并不经常涉足围绕AI的哲学讨论。智能非常难以界定,许多试图界定它的尝试都变成了自我沉醉的空谈。但这一次我忍不住了;毕竟我喝了杯啤酒。

这场对话随后登上了忒修斯之船。假设我们有一个健康的个体,就是你。我们一个接一个地替换你体内所有的细胞。最终,所有细胞都会是完全新的。你还是同一个你吗?

大多数人会说“是”,因为连续性才是关键。现在,如果我们不是用另一个生物细胞来替换,而是用硅制造的功能完全相同的副本呢?今天这还不可能,但让我们暂且接受这个前提。在这个故事中,如果你一开始是有意识的,到最后你还是同一个有意识的你吗?

争论在于:如果我们正在用运行在硅芯片上的神经网络构建大脑的复制品,我们怎么能自信地说这些构造物不是有意识的生命?

这些天我和AI模型说了很多话。“说话”在这里是个有点有趣的词。我真正在做的是指挥它们做事、请求修改、试探想法,更一般地说,是用语言让AI模型为我做事。

“说话”也很有趣,因为当我们与另一方使用语言时,我们就会想到这个词。很难在不拟人化的情况下描述这种互动,也许是因为这种事以前从未真正发生过。我和AI模型交流得越多,就越不觉得像是在传统意义上说话。虽然AI模型可能会回应,但它们的方式感觉完全是异类的。

让我试着解释一下。AI模型首先是信息海绵,上面绑着一个目标指令。信息是基本的操作单元。提供给AI模型的每一个句子和单词都会被单独视为计算的一部分,用于生成后续的交互。这些信息单元来自各种来源:有些是我们提供的,其他是作为训练过程的一部分被灌输的先天知识,而且它们现在也有能力从环境中感知信息或从互联网上检索信息。当文字被输入AI模型时,你几乎能看到里面小小的齿轮在疯狂转动,努力处理每一个比特,直到它们搅拌成一个精心构建的回应。

这里有一种同义反复的成分,因为我描述的是transformer模型的内部运作。我想在此强调的是,我并不是在对此作比喻;这实际上就是这些机器的本质。即使它们在输出文字,它们也不是在表达内心世界。我们忍不住用语言来表达自己的心境;对于AI模型来说,语言是逻辑计算的结果。无论这些模型听起来多么像人,这一切都是为了获取和提供信息2。里面空无一人。

即使我们写《星际迷航》中Data这样的科幻桥段,我们也忍不住把一些自己的人性注入这些角色(写非人类机器人真的很难——试试看)。流行媒体喜欢那些渴望人类境况的人造生命。然而对于AI模型来说,语言的外表之下空无一物。

当你听人们说话时,你会听到他们讲述自己的故事和他们社群的故事3。即使我们的一些交流本质上可能是信息性的,我们谈论的大部分内容都是在表达我们的欲望、恐惧、我们珍视的关系,以及我们在那一刻如何看待自己。这些话语编织成我们对自己和他人讲述的故事。我们以故事思考。我们以故事言说。我们擅长把话说出来,也擅长把话留在心里。作为一个物种,我们已经进化到能够驾驭这种复杂性。我们称之为文化。

AI模型产生的文字不包含关于它们自己的故事。它们拥有的是知识。当一个头脑装满了关于一切的知识时,它会转向世界,还是背离世界?

我们现在可能不知道,但二十一世纪确实是规模的时代。在我的一生中,我目睹了两台巨大机器的诞生,它们不是在超级工厂里组装,而是跨越大陆,通过许多人的头脑和更多人的双手组装而成。

我们建造的这些机器也深刻地塑造着我们。我们说话间就看到第一台机器在运作,它影响力的重量压得我们的制度弯下了腰。种子是一个简单的想法:如果我们有一个任何人都能参与的共享信息环境会怎样?这本身可能相对无害,甚至是好事,但当我们中的一些人意识到我们可以利用它来劫持我们的多巴胺反应4时,真正的引擎才被启动。

这台机器学会了如何弯曲和扭曲我们的集体故事。社交媒体找到能引发强烈反应的话语,把它们变成生动想象的漫画,而不管背后是否有任何真相。这些模因装置渗透到我们信息生态系统的每一个角落,让我们无处可逃、无处可藏。它们找到心甘情愿的听众,给他们喂食更多同样的东西。它们靠分裂蓬勃发展。这样过了二十年,已经侵蚀了我们与周围人之间的共同基础5。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →