
研究指出:现有定义无法推断超级智能的实际形态
来源标题:ASI as a Black Box
一项分析指出,尽管ASl可被定义为在几乎所有认知任务上远超人类的AI,但仅凭这一定义和现有知识,无法推断其具体形态。人类天才只提供能力下限而非上限,除受物理定律约束的领域外,多数领域缺乏演绎理论来判断AI能做什么。研究以说服力和科学发现为例,认为「超级说服力」等能力是否存在只能靠实证检验。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
人工超级智能(ASI)是一种在几乎所有认知任务上都远超顶尖人类的AI。这个定义本身没问题。但从这个定义和我们现有的知识网络中,我们能推断出的关于ASI实际面貌的信息非常有限。
人类天才提供了一个下限,而非上限。在某些领域,我们有演绎理论来描述所有智能体可能性的空间。例如,我们知道超级智能AI无法超越光速或穿越回过去,因为我们有成熟的理论禁止这些行为。但在大多数生活领域中,我们并没有这样的理论,因此没有坚实的依据来判断什么是可能的、什么是不可能的。
以说服力为例。有些人类极具魅力。但魅力的范围有多大?超级说服力是否可能?我不知道。“超级说服力”这个词定义非常模糊,但人们随意使用它,仿佛它真有什么确定含义。没有关于人类信念改变和沟通的演绎理论,“超级说服力”的可能性就是一个经验性问题。
以科学发现为例。也许ASI会大幅加速科学发展,也许不会。你可以把科学发现视为智能、现有知识状态和获取经验观察能力的函数。但我们不知道这些项的系数,也就是——打个比方——科学发现的智能弹性。我猜测进展会加速,因为更高的智能意味着更好的假设生成、假设选择、实验设计,以及更高效的实验室设备调度。
更一般地说,对于“ASI能否做到X?”这类问题,我们无法回答通常不是因为缺乏对ASI的了解,而是因为缺乏对X的了解。“ASI能做的事”是“可能做到的事”的子集,要(以演绎而非经验的方式)知道前者,我们首先需要知道后者,而要做到这一点,我们需要一个关于X所属知识领域的完整演绎理论。
但我们不是有那些关于理性和最优决策的数学理论吗?它们对于预测超级智能的行为有用吗?标准学说认为超级智能应该收敛于完美的贝叶斯理性。如果这是真的,那么所有那些关于决策理论的论文和所有倾注在纽科姆问题上的墨水终将有所回报。另一方面,如果这些理论只是一个不可达的抽象规范性标准,那我们就一无所知。
简而言之:我们无法预测ASI将具备的具体认知能力,也无法预测这些认知能力带来的高阶后果。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。