返回资讯中心
外部精选
软件工程
#开发者实时流

Dan Williams 撰文:AI 界"超级智能视角"在方向上大致正确

来源标题:The Crazy AI People Are Directionally Correct

Dan Williams 在文章中把 AI 与 AI 安全从业者、理性主义及有效利他主义社群中流行的观点归纳为"超级智能视角"。该视角包含三项主张:几年内出现递归自我改进、随之迅速诞生超级智能、以及超智能到来后世界被极快重塑。文章认为,若这一视角成立,它可能是人类历史上最重要的真相。

Hacker News 最新Luc2026/11/22 · 今天30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Dan Williams 2026年11月22日 68 4 21 分享

许多从事AI和AI安全研究、或参与理性主义与有效利他主义社群的人,已经围绕以下观点形成了共识:

即将到来的递归自我改进(RSI)。在几年之内,AI系统很可能将构建更好的AI系统所涉及的大部分工作自动化。由此产生的反馈循环将极大地加速AI的进展。

即将到来的超级智能。这一过程将迅速产生在几乎所有认知任务上都远超最强人类的系统。

即将到来的变革。此前的通用技术——如电力或互联网——花费数十年才改变我们的生活方式,而超级智能在到来后极短的时间内就会彻底改变世界:或许是一个世纪的技术进步被压缩进十年,或许是史无前例的经济增长率。

不妨称之为“超级智能视角”。

每一个主张都将关于AI发展方向的判断与关于速度和规模的判断结合在一起。

如果超级智能视角是正确的,它或许是人类历史上最重要的真理。

人们很想把它当作Elizabeth Holmes式骗子的胡言乱语而不予理会,但那样做是错误的。

首先,这一视角被许多非常聪明、信息极为灵通的人认真对待,包括AI先驱和拥有出色预测记录的人。支持超级智能视角的并不只是那些在公司里工作的人,尽管支持它的科技领袖和AI工程师也不应被完全忽视。(与Holmes不同,他们在一个已在无数领域得到验证的技术基础上,建立了或许是人类历史上增长最快的行业。)

更重要的是,这一视角得到了有说服力的论证以及从现有趋势出发的合理外推的支持。自2019年以来,前沿AI系统能以50%可靠性完成的某些软件任务的长度——以熟练人类完成这些任务所需时间衡量——大约每七个月翻一番,而自2024年以来已接近每三到四个月翻一番。仅在今年,AI系统就在广泛使用的软件中发现了数千个此前未知的漏洞,并产出了一份经计算机验证的证明,似乎解决了数学界的一个千禧年大奖难题。根据研究组织METR最近发布的一项评估,自2025年10月以来,Anthropic的模型在基准测试上的提升速度接近此前速率的两倍,而当前的大部分加速可能归功于AI本身。

就在本周,Anthropic的一位数学家宣布,他与Claude合作,找到了黎曼猜想的证明——这是另一个千禧年大奖难题,或许也是整个数学界最著名的未解问题。(该证明现已得到独立验证。)这可能是百年来数学领域最重要的进展。

在能力方面,预测记录似乎也更有利于那些疯狂的AI人士(我用这个词是出于喜爱),而非他们的许多批评者。例如,在2022年的一场预测竞赛中,一组超级预测者——那些拥有成功预测往绩的人——认为AI系统到2025年在国际数学奥林匹克竞赛中获得金牌成绩的概率仅为2.3%。这件事在2025年7月发生了。相比之下,Daniel Kokotajlo——《AI 2027》的第一作者——在2021年所写的关于AI到2026年将如何发展的情景,其准确性出人意料地经受住了检验。

那么,超级智能视角真的可能成立吗?

在关于AI的辩论中,我倾向于一种我称之为“负责任的AI怀疑论”的立场。

说它负责任,是指它正视AI能力快速进展的现实。它不会把当今的系统贬为“随机鹦鹉”或花哨的自动补全,不会声称AI做不到它实际能做到或显然正朝着能做到的方向发展的事情,也不会自信地预测深度学习即将“撞墙”。

最根本的是,它不假设人类能力背后存在某种神秘的、原则上无法在机器中复制的机制。

然而,它对超级智能视角持怀疑态度。

这样的负责任怀疑者有很多,包括我最近在播客中采访过的人,如Steven Pinker、Séb Krier和Arvind Narayanan。

我在这里的一个目的是梳理构成这种负责任怀疑论的一些理由——我总体上认同这些理由。但另一个目的——在某种意义上更为重要——是揭示这种怀疑视角的局限。

首先,我所知的怀疑理由中,没有一条构成决定性的反驳论证。这意味着负责任的怀疑者必须承认,那些疯狂的AI人士可能是对的。而这一点应当在集体决策中占有重要分量。

其次,这些论证至多表明,超级智能视角在速度和规模上是错误的:递归自我改进将更缓慢,超级智能将更不均衡、能力更弱,AI驱动的变革将比支持者预期的更为渐进。但最强的此类论证并不否认支持者在方向上是正确的。而这一事实具有极其重要的意义。

怀疑的理由有两类是一般性的。

第一类关乎我们的“先验”(即,在审视具体证据之前我们应当预期什么)。

疯狂的事情很少发生。非凡的主张需要非凡的证据。这些是理性的基本原则。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →