METR报告称Anthropic AI研发加速,多项分析将AI超人类研发预测提前至2027年
来源标题:Have AI timelines suddenly moved?
METR报告显示Anthropic自2025年底以来能力进展加速,多项后续分析将主因归于AI研发能力提升带来的复利效应。Ajeya Cotra、AI Futures团队及Buck Shlegeris的分析据此把AI在构建AI上达到超人类水平的时间预测从2028-2029年提前到2027年。文章指出,今年OpenAI HuggingFace被黑事件表明,面对可能的能力跃升,模型对齐与控制方面尚未做好准备。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
一周前,METR 发布了一份关于 Anthropic 内部 AI 研发加速的报告。1 随后几天,多篇跟进分析迅速出炉,包括 Ajeya Cotra 的一篇、2 AI Futures 团队的一篇,3 以及 Buck Shlegeris(Redwood Research CEO)在 X 上的一篇长文。4
这些分析共同表明,Anthropic 自 2025 年底以来加快了其能力进展,并将大部分改进归因于 AI 研发能力的提升(“AI 构建 AI”)。如果属实,这将是一件大事,因为更好的模型会造就更强的研究队伍,从而带来能力的复合增长。
所有跟进分析都沿着这种复合增长逻辑,将“AI 在构建 AI 方面超越人类”的预测时间从 2028-2029 年或更晚提前到了 2027 年,也就是明年。
风险很高,因为今年的 OpenAI HuggingFace 黑客事件5 表明,我们还没有准备好迎接一次大规模的能力跃升——无论是在模型对齐程度还是在我们对它们的控制能力方面。因此,即便是专家分析也值得尝试理解和复现。
Epoch AI 提供了关于能力改进及其影响因素的最佳参考数据。他们根据 Epoch Capabilities Index(ECI)来衡量能力。Anthropic 有自己的内部版本,包含私有基准,称为 AECI。在这两个指标上,2025 年 10 月前后都出现了明显的趋势转变。
有趣的是,这个拐点的统计拟合时间恰好接近 Opus 4.5 的发布时间。许多开发者将那次发布视为软件领域的一个 tipping point:在此之前,大部分代码需要由人类编写;在此之后,编码 agent 已经足够好,使用它们来编码成为新的默认方式。对我而言,它标志着编码作为人类技艺即将终结。
Anthropic 自己的指数(同时包含其内部基准和未发布模型)中的加速更为明显,按 METR 的统计拟合为 1.9 倍,在其他合理建模选择下低至 1.5 倍。自 2026 年 6 月的 Mythos 5 以来,每一个推高内部前沿的点都来自未发布模型,公众无法评估。
那么这与其他实验室的情况有何关系?他们也有强大的编码模型,他们是否也在经历比以前更快的能力增长?
事实证明,竞争的实验室并没有加速,甚至可能略有放缓。如果只看他们最佳模型的发布,那么前沿的趋势一直非常稳定,这也包括 Anthropic 的模型。
所以,Anthropic 加快了其能力增长,而其他实验室没有,但整体前沿并未加速。目前,Anthropic 与其他实验室不相上下,彼此交替领先以取得短暂优势,随后竞争对手的下一个模型发布又会再次夺走桂冠。
如果我们查看以下前沿模型发布,可以看到更长期的趋势:
可以看到,2025 年 10 月之后,我们仍未超过此前的趋势。2026 年大部分时间里,任何实验室的每个新最佳模型都低于长期趋势;只有最近的 Fable 5.2 发布回到了趋势线上。这并不排除 Anthropic 持续加速的可能性,只是表明目前尚不确定。
需要明确的是,AI 进展的现有轨迹已经相当令人担忧。当今的模型在某些能力上超越人类,但在另一些方面远低于人类(“锯齿状”)。但许多人预测,按照此前的轨迹,我们将在未来 2-3 年内拥有超人类的 AI 研究员。
仅 Anthropic 新的能力增长速度本身并不是最让研究人员担忧的;真正令人担忧的是,这种增长是由 AI 驱动的,这意味着 Anthropic 可能正在进入一个持续、复合加速的阶段,速度将不断攀升。这使他们的建模中的估计提前,意味着 2-3 年变为仅 1-2 年。
这两个时间线都令人担忧,但第二个留给发展政策肌肉以减缓速度的时间要少得多,而且两者都没有足够时间来构建必要的安全技术和政策,以避免灾难性的滥用或失控风险。
这在很大程度上取决于加速的原因,而这是对局势的每项分析核心的最重要问题。
因此,关于 Anthropic 速度的整个问题在于:其增长中有多大比例是由于 AI 对构建 AI 的贡献增加。
METR 利用外部无法验证的脱敏信息猜测,AI 构建 AI 约占加速的 80%。Anthropic 自己的公开和私人报告在加速程度上存在矛盾。8 9 外部机构报告称 AI 带来的增益为 1.5-3 倍,而非 12 倍,10 而且尽管 AI 使用量增加了 250 倍,Anthropic 的速度在 2026 年全年显然没有上升,因此有理由对此持怀疑态度。
如果 Anthropic 不仅保持其新速度而且还在加速,我们预计这将在其即将发布的模型能力中体现出来。
根据之前的发布,我们可能猜测 Opus 发布会在 11 月底,Fable 发布会在 1 月底。但按照 Anthropic 目前的速度,它要到 2027 年 8 月才会超过此前的前沿趋势。只有 Anthropic 继续加速,我们才可能注意到,而且可能要到下一次 Fable 发布时才会显现。一次按时发布且比趋势高出几个点,可能是加速的证据。
我们还预计会从无法接触 Anthropic 内部信息的团队那里得到一份新的 METR 报告,据报道该报告发现的加速幅度要小得多。
如果 Anthropic 能力增长的主要来源确实是 AI 构建 AI,那么不清楚为什么其他实验室没有同样受益。其他实验室也报告了大量使用 AI,Google 报告 75% 的新代码由 AI 生成。11 如果其他实验室开始以类似方式加速其能力进展,那也可以提供一些证据。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。