返回资讯中心
外部精选
软件工程
#开发者实时流

研究者指出AGI竞赛存在根本缺陷:仅靠规模无法实现通用智能

来源标题:The Fundamental Flaw in the Race to AGI

Massimiliano Genta 撰文认为,把通用智能主要视为规模问题的假设存在根本性错误。他指出,语言模型虽通过预测下一个 token 获得了推理与编程等能力,但真正缺失的是系统自身决策之间的关系,而非更多知识维度。仅靠更好的预测无法必然带来这种理解能力。

Hacker News 最新5072026/11/13 · 5 天前30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Massimiliano Genta 2026年11月12日 分享

大语言模型通过学习预测序列中的下一个 token,获得了非凡的能力。通过这个相对简单的目标,它们发展出了足够精细的表征,足以支撑推理、编程、科学分析以及日益复杂的问题求解。它们的成功催生了一个强有力的假设:或许通用智能主要是一个规模问题,只要模型足够大、训练数据足够广泛,它们最终就能获得所需的一切其他能力。

我认为这个假设中包含了一个关于智能本质的根本性错误。

常见的批评是,语言模型识别出了相关性,却并未真正理解它们。但随着模型展现出远远超出复现熟悉模式的能力,这种论点已变得越来越缺乏说服力。如果我们想声称某种本质性的东西缺失了,就需要精确地解释理解需要什么,以及为什么更好的预测未必能提供它。

缺失的成分并不是知识的另一个维度。它是系统自身决策、这些决策的后果,以及这些后果在系统自身中引起的变化三者之间的关系。

模型可以学会表征数量庞大的可能性。仅凭表征无法确立的是:这些可能性中哪些对应于能够经受现实检验的关系。这种证据最终必须来自观察和干预,而系统必须有一种机制,将其纳入决定它下一步能做什么的结构之中。

设想一位旅行者带着一张地形图穿越陌生地域。地图描述了位置、海拔和可能的移动方向。如果旅行者向北移动,地图会预测他们应该到达哪里、应该遇到什么地形。

语言模型通过一种复杂得多的表征来运作,但这个类比是有用的。它的参数编码了可以通过高维计算空间表达的关系。不同的特征可以对应于意义、结构或语境中的区分,使模型能够基于从先前观察中学到的关系生成预测。

对于自回归语言模型,基本目标可以写为:

模型学习参数 θ,在给定前序序列的情况下为可能的下一批 token 分配概率。

它的表征并非字面意义上的地理地图,推理也不只是在嵌入空间中向下坡移动。但它们提供了类似于地图的东西:一种描述可能观察之间关系的学习到的结构。

困难在于,地图可以表示通往虚无的方向。

学习到的表征可能包含有意义的关系、误导性的相关性,以及在世界上没有可实现对应物的组合。增加其容量会扩展所能表达的内容,却未必确立哪些关系在因果上是可靠的。

这一点尤其重要,因为高维模型未必局限于每个坐标一个有意义特征。通过分布式和叠加表征,许多特征可以跨重叠维度编码。因此问题并不简单地在于模型缺少足够的轴。

一个足够有表现力的表征可以描述远超现实所允许的可能性,但仅凭这些表征的存在,无法确立当系统对其采取行动时哪些关系仍然有效。

而这一区分无法仅凭几何来解决。

与这一论点相关的意义上的分析,是将观察分解为方向的过程:识别变量、关系,以及连接现实一种状态与另一种状态的可能变化。

决策则从系统可用的方向中选择一种可能性。但决策所包含的信息多于最终采取的行动。

在任意时刻 t,考虑一个系统,其内部状态为 Sₜ,可能动作集合为 Aₜ,每个动作都有一个预期结果。

系统可以按照以下方式选择动作:

这里,Vₜ(a | Sₜ) 表示系统在当前理解下赋予某个动作的价值。

选定的动作只是该评估的可见结果。在其背后,是一个特定的状态、一个预期分布,以及一组曾被考虑但从未执行的备选方案。

假设两个系统做出相同的决策,并观察到相同的成功结果。一个系统几乎确信会成功;另一个则认为成功极不可能。尽管它们的可观察行为完全相同,但结果对每个系统携带的信息是不同的。

对于第一个系统,结果确认了一个已有的预期。对于第二个系统,结果挑战了产生该预期的结构。

这一差异之所以重要,是因为一个后果的信息价值取决于预期它的那个状态。

仅凭发生了什么事的记录,无法重建使原始决策具有意义的全部内容。它可能保留了动作和结果,却丢失了备选方案、预期,以及该动作被选择时所处的内部条件。

这就是反事实溯源的重要性。未选择动作的实际后果,有时可以通过进一步实验或因果推断来估计。但这些估计并不等同于恢复原始决策者考虑其备选方案时所经历的那个特定评估。

因此,系统的经验不仅仅是后果。它是其状态、其决策,以及之后发生的事情之间的关系。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →