
Dwarkesh Patel:AI研究自动化或仅需数月,超级智能最早明年到来
来源标题:The avalanche that hit math is coming for AI development
播客主持人Dwarkesh Patel改变此前判断,认为距AI达到顶尖人类AI研究员水平可能只剩几个月到两年,而非十年。他称AI研究自动化将把大量进展压缩进一年内,因此最早明年、最晚2030年就会出现达到顶尖人类专家水平的AI。
以下正文由 AI 翻译自 Hacker News(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Dwarkesh Patel 2026年11月13日 36 2 6 分享 文章配音 0:00 -44:26 你的浏览器不支持音频播放,请升级。非常感谢Max Farrens、Gabe Fried和Thomas Larsen,他们在本文写作和研究的相当一部分过程中与我合作。 你可以在YouTube、Spotify和Apple Podcasts上观看或收听我朗读本文。 如果你在今年早些时候问我,我们距离超级智能还有多远,我大概会说至少还要大半个十年。但在过去三个月里,我的看法发生了巨大转变。我一直在播客内外与人辩论这个问题。我也一直在观察AI在可验证领域中的进展,并思考这对AI研究本身意味着什么。 我现在认为,距离出现与最优秀人类研究者一样出色的AI研究AI,只差几年,甚至可能只差几个月。我还相信,自动化AI研究将把如此多的进展压缩到一年之内,以至于此后不久(到2030年,但最早可能就在明年),我们就会拥有在每个领域都至少与最优秀人类专家一样出色的AI。我知道这是个疯狂的说法,几个月前我自己都不相信。让我带你梳理一下我的想法是如何改变的。 在我们进入更具推测性的论证之前,我想指出,我们有大量证据表明,AI已经在极大地加速前沿AI的进一步进展。 例如,独立评估机构METR在Anthropic内部驻留三个月后得出结论:Anthropic在界定明确的任务上的总体进展速度是一年前的两倍,而且“如今这种加速的大部分很可能归因于Anthropic广泛使用AI来做研发”。 OpenAI在9月发布了一篇博客文章,其中显示,OpenAI研究人员中AI使用量最高的10%用户,从夏初每天使用约1000美元的内部编码agent,到8月底已增至每天超过7000美元。 9月,Anthropic也发布了一篇关于自身AI提效的类似文章。他们报告称,截至8月,Claude“主导”了Anthropic超过26%的AI研发工作——而就在2月,这一比例还不到1%。1 数学是AI研究将发生之事的预演 当我思考AI自动化AI研究可能有多大的影响、以及这可能多快发生时,对我而言一个非常重要的更新,就是亲眼看到AI在数学中的能力爆炸得有多快。当前的AI在数学中切开界定明确的问题,就像热刀切黄油。仅仅两年前,我还问Dario,为什么LLM无法利用其在如此多不同领域中的广博知识来连接不同想法并做出新发现。而你看,现在我们到了这一步:在像数学这样完全可验证的领域中,AI正在进行这种搜索与匹配式发现,程度之深,以至于数百个重要结果(世界顶尖数学家和计算机科学家花了几十年试图解决)正作为附带任务被批量产出,用来为未来模型发布造势。 我们从2023年的“这个模型不能可靠地做四位数加法”,到2024年的“这个模型几乎解不了高中数学竞赛中的任何题”,到2025年的“哦,它能在国际数学奥林匹克竞赛中拿金牌”,到今年早些时候的“哇,它在解决未解决的Erdős问题,但也许只是因为还没有人尝试解决这些特定问题,而且文献中已有类似解法”,再到大约一个月前的“好吧,它他妈的在88小时内解决了一个千禧年大奖难题”——这速度快得离谱。 小说《伊甸园之东》中有一句话:“关于众神的陨落,有一件事是确定的:他们不会只跌落一点;他们会轰然坠落,粉身碎骨。” 确实,进展不成比例地偏向数学中依赖验证的部分,比如寻找反例(而不是提出新理论)。Toby Ord最近就此写了一篇很好的文章。他写道:“虽然当前的AI系统正开始自动化数学证明,但目前几乎没有证据表明它们能提出有力的问题,或找到深刻的新数学探究领域。” 但换句话说:当前的AI系统已经解决了一个千禧年大奖难题,而它们并不具备提出有力问题或找到深刻新数学探究领域的能力。 而且,这种解决界定明确问题的能力,对机器学习研究而言将比数学(广义而言)更重要。这是因为数学研究的目标不只是证明或证伪一长串猜想,而是扩展人类对数学概念的理解。提出拓扑学、群论或笛卡尔网格的想法,远比确切知道从n个点中能凑出多少对相距一个单位的点更重要。我们关心这些深奥问题,主要是因为它们可能引出新的数学理论。 但在AI研究中,优先级恰好相反。AI实验室主要关心任何新算法配方在经验上如何让训练更高效或引出更聪明的模型。他们不关心理论本身,而过去十五年里我们在深度学习上取得的所有进展,本来也不需要多少新理论。随机猜想硬啃的等价物在机器学习中会极其有价值,而在数学中则并非如此。 AI研究实际上与当前AI格外擅长的那类数学进展惊人地相似:通过结合惊人的坚持力和连接大量相邻领域想法的超人能力,解锁大量低垂果实。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。