返回资讯中心
外部精选
软件工程
#开发者实时流

研究分析METR报告数据,探讨AI是否正走向智能爆炸

来源标题:Are we approaching an intelligence explosion?

经济学家Luis Garicano与Alex Imas发文分析METR基于Anthropic内部数据的报告,评估AI能力增长是否在加速。METR估计截至2026年10月,明确任务上的能力增长速度约为2024年3月至2025年10月的2倍,但不确定性很高,可能在1.3至3倍之间。作者通过两个模型和数据分析探讨这是否意味着智能爆炸即将到来。

Hacker News 最新speckx2026/11/13 · 4 天前30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Luis Garicano 和 Alex Imas 2026年11月13日 27 4 2 分享 (亲爱的读者:这是一篇不太寻常的文章,涉及一些技术内容。Alex 和我试图做一件有难度的事:审视数据,尝试理解这些数据就智能爆炸告诉了我们什么。文中有数学、希腊字母和两个模型。所以请耐心读下去,如果觉得枯燥,我们深表歉意。我们认为这里值得破例一次。) 免责声明:本文的分析代表作者本人的研究和结论,不一定反映其雇主的官方立场、观点或战略政策。 我们今天面临的最重要的问题,或许就是我们是否正在逼近一场智能爆炸。METR 最近发布了一份报告,使用了一家前沿实验室(Anthropic)的内部数据[2],此后许多研究者和 AI 分析人士担忧(或希望)这份报告表明 AI 的进步正在加速。在配合图 1A 的一篇文章中,METR 表示: “我们认为,截至 2026 年 10 月,在定义明确的任务上,能力增长速度很可能约为 2024 年 3 月至 2025 年 10 月期间的 2 倍。我们对此高度不确定,1.3 倍到 3 倍都不会让我们感到意外。” 我们是否正在逼近智能爆炸?METR 的报告将能力对日历时间作图。但要判断是否存在智能爆炸,需要估计产出改进相对于投入的速度。爆炸需要规模报酬递增,即随着能力增长,每一单位研究投入带来的成比例进展越来越大(也就是说,智能生产函数转为凸函数)。在本文中,我们估计研究生产函数,看看用现有数据能走到多远。 尽管他们的许多发现被涂黑,METR 还是展示出:基于用于衡量模型能力的 AECI 指数,AI 系统的改进速度约为 2025 年 10 月之前的两倍。然而,研究支出增长了六倍,技术员工人数增长了三倍(依据公开 filings[3, 4, 6],下文将说明)。因此,每美元带来的能力增益下降了三分之二,而每技术员工年带来的增益下降了约五分之二。把数据放在一起,就得到下面两张图。 图 1. 估计的能力趋势分别对时间和累计研发支出作图。支出从 2024 年 1 月开始累计,假设每个报告财务期内每日支出恒定。垂直标记表示 2025 年 10 月。附录 A 给出构建方法。 Panel A 复现了 METR 报告中的图表。Panel B 将同一 METR 指数对累计研究支出作图(Seb Krier 和 Ramez Naam 也发表过类似的图)。它显示,在这个尺度上,曲线变得平缓,而不是更陡。也就是说,以所用投入为函数来看,进步速度在放缓,而不是像按日历时间那样在加快。 能力指数级增长需要资源指数级增长,这是 scaling laws 最初概念的核心。但 scaling laws 与智能爆炸不同,后者需要资源报酬递增,即用更少的投入产生同等水平的产出。这两种可能性的区别对人类有重要影响:如果维持能力增长需要不断增加研究投入,那么最终能力增益必然放缓。资本以及芯片和电力供应限制了实验室能花多少钱。在这种情况下,进步不会停止,但会放缓到这些约束允许的速度。只有智能爆炸能逃脱这个算术。 本文旨在为数据添加一些进一步的结构,以更接近回答我们提出的问题。文章有三个部分,难度递增,读者可以在任何一部分停下,直接跳到组织经济学部分,此时图景已近乎完整。 第一部分记录研究投资与测得能力之间的关系。我们用产生这些能力增益的研究投入来除能力增益。我们发现,进步更快了,但每一“单位”进步需要越来越多的资源。 为了对智能加速做出一些推断,我们需要为研究投入与能力之间的关系添加一些结构。在第二部分,我们引入一个简单的幂律生产函数,与关于 scaling laws 的常见证据一致。我们发现(如同 Bloom 等人[1]),在 AI 研究中,想法越来越难找。换句话说,如果研究投入保持不变,进步本会放缓。进步之所以加快,是因为投入增长得足够快,克服了取得进展日益增加的难度。在 2025 年 10 月前后在模型中引入一个断点,表明研究有效性出现了一次性跃升,而不是持续加速;这正是引入 coding agents 会带来的那种跳跃。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →