返回资讯中心
外部精选
软件工程
#开发者实时流

研究探讨计算机能否真正“在意”以及为何需要建立关怀核算体系

来源标题:Who Cares about a Computation?

文章指出计算机和AI只是执行给定目标,并不具备真正的“在意”,而人类关怀的深度无法被任何指令完全覆盖。作者提出两个问题:计算机能否在意、在意是否重要,并主张需要一个关怀核算体系来取得进展。文中还回顾图灵从人工计算员的工作中提取出图灵机机制的历史。

Hacker News 最新jses2026/11/14 · 4 天前30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

计算机被发明出来,是为了替我们自动化认知劳动。但我们需要完成的工作取决于我们在意什么。与图灵所提取的计算机制不同,这种“在意”并不是我们知道如何交代的东西。当今的计算机,包括 AI,并不在意:它们追求我们给它们的目标,但没有任何一个具体目标能穷尽我们作为在意者所应负责的东西。也就是说,我们的在意与事情本身的关联,比我们对此给出的任何指令都更深。在这篇博文中,我考虑两个问题:计算机能在意吗?在意重要吗?我提出,要取得进展,我们需要一套关于“在意”的核算体系。

计算机曾经是人——通常是女性——以极高的精确度和速度解决数学问题。艾伦·图灵观察了她们能做什么,并找到了其中的机制:

他的自动计算机,现在被称为图灵机,恰好能做那些事,别无所能。

20 世纪 30 年代已经证明,三种动机不同的形式化体系——一般递归函数、阿隆佐·邱奇的 lambda 演算所可定义的函数,以及图灵可计算函数——在可表达的内容上是重合的。这促使邱奇和图灵分别提出——即现在所谓的邱奇-图灵论题——这一类别恰好刻画了任何有限机械程序所能计算的东西。

图灵及其后续发明(包括当前所谓的 AI)有多强大,显而易见。人们对失业以及由此带来的社会不稳定有充分理由感到担忧。毫无疑问,它将是变革性的,会带来巨大冲击,但计算机(包括 AI)在什么意义上会取代人类?工业革命在很大程度上用机器的体力劳动取代了人类的体力劳动。计算革命可能在很大程度上用机器的认知劳动取代人类的认知劳动。除了体力和认知能力之外,人类还剩下什么吗?

随着计算机变得司空见惯,在意并没有消失:它仍然留在那个人身上——她选择问题、发起计算、解释结果,并将其交还给世界。

再说一次,图灵从计算人员的行为中提取的是机制。但他没有提取的是驱动那些执行高效而细致计算的人的动机:他们在意某些东西。也许有些人如此努力、如此出色地工作,是因为他们在意使命;另一些人是因为他们在意家庭;还有一些人是因为热爱数学,在意把它做好。遗漏动机并不是图灵计算模型的缺陷;在意与他所关心的问题无关。然而,如果把机械式计算当作当时从事这项工作的完整的人的模型,那就错了。每个人都需要一个做她工作的理由,而她确实有一个。

但由于没有阐明“在意”是什么,该模型捕捉了工作者计算能力的机械层面,却把她的在意留在了别处。随着计算机变得司空见惯,在意并没有消失:它仍然留在那个人身上——她选择问题、发起计算、解释结果,并将其交还给世界。我还没有一套关于在意的理论,但我应该试着说明我所说的在意是什么意思。在意某个 X,就是看到 X 的一种可能性——这个孩子过上幸福生活、这个算法产生巨大影响、在这个地方共度一个美好时刻——并力求超越任何具体模型、测量或目标,始终忠于那种可能性。我们试图了解 X 的实际状况,让我们的发现向我们表明:我们对它的模型错了,我们的测量已经不再追踪 X 的实际状况,或者我们的目标需要修改。我们对 X 的这种可能性负责:它的状况可以重新唤起我们的注意,并重组我们的活动。我的部分主张是,我们尚不知道如何像我们知道如何核算计算那样去核算在意,而朝着这个方向迈进很重要。这一暂定的说明引出两个问题:1. 计算机能在意吗?2. 在意重要吗?我们将依次讨论这两个问题,然后作结。

当今的计算机并不在意。它们能完成大量工作,但就像导线导电一样,它们自身不提供电压;电池在别处。它们可以追求我们给的目标、生成子目标,并用测量来检验输出。但如果测量不再追踪它们本应测量的东西,那么该事物的实际状况并不会促使计算机去查明出了什么问题,而对于一个在意它的人来说,该事物的实际状况恰恰是唯一值得关心的东西。对自动计算机而言,只要没有人提供另一个排除它的条件,目标的满足仍然算作成功——这就是“回形针最大化器”可怕之处。在意仍然属于那个把所提供的目标和测量视为可修改、以服务于事物本身的人。图灵建模的是计算机制,而不是选择要解决的问题并对所发生之事保持负责的在意。

在意与事情本身的关联,比任何关于它的指令都更深。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →