
METR报告称AI正大幅加速Anthropic自身AI研发
来源标题:AI is dramatically accelerating AI research
METR的深度调查显示,Anthropic的AI研发进展速度可能已达到其Responsible Scaling Policy中定义的「由AI大幅加速」阈值。该门槛指整体能力进展速度达到AI大规模参与研发前最快持续速度的两倍,且可归因于AI自动化研发而非算力等投入增加。Anthropic在S1中表示可能即将满足这一门槛。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Ajeya Cotra 2026年11月6日 12 1 3 分享
本文讨论METR发布的一份关于Anthropic内部AI加速AI研发的公开报告。我本人没有参与该项目,也没有看过未经删改的完整报告。¹ 文中所有观点仅代表个人,不代表METR或报告作者。
感谢Ryan Greenblatt的讨论、反馈以及在建模方面的帮助,感谢Daniel Kokotajlo、Eli Lifland和Hjalmar Wjik的评论意见。
本周早些时候,Anthropic在其S1文件中表示,他们“可能即将达到”其《负责任扩展政策》(Responsible Scaling Policy)中所定义的“因AI而显著加速进展”的门槛。在其最新的RSP(2026年7月生效)中,该门槛的达标条件为:
他们观察到或预期整体能力进展速度达到AI对AI研发贡献尚小之前最快持续速度的两倍。²
这一加速可合理归因于AI对AI研发的自动化,而非算力或其他投入要素的增长。³
过去几个月,我在METR的一些同事一直在进行一项深度访问调查,以了解Anthropic的AI系统究竟在多大程度上加速了其研究工作。从我对他们的报告以及Anthropic RSP的解读来看,“显著加速”的门槛似乎已经被跨过了。⁴
2025年10月至2026年10月期间,Anthropic的能力进展速度大约为此前十二个月的两倍。他们报告的测量指标是Epoch能力指数(Epoch Capabilities Index)的内部版本,称为AECI;大量其他支持加速的证据均被删改。他们表示,被删改的证据占“他们所发现的最具信息价值的证据的大部分”。
虽然最初的加速可能由多种因素共同推动,但如今能力仍能以这一更快速度持续提升,大概率主要归功于AI自动化。他们持此判断的理由已被删改。
这件事远比初听起来更为重大。我认为这份报告是过去几年中关于AI风险最重要的更新——远比Hugging Face攻击事件重要得多。直观来看,它指向的时间线比大多数外部研究者(包括AI 2027团队)所预测的要短得多。
重要的是,如果AI大致将整体能力进展速度翻倍,那么它对人类研究员的加速幅度必然远不止两倍。
研究员的工作是改进算法和架构;Anthropic有时将这些创新称为“算力乘数”(compute multipliers)。⁵ 整体AI能力(“有效算力”)是算力乘数与训练算力的乘积。由于算力乘数只是能力的一个投入要素,这意味着如果AI能力因软件进步而整体加速两倍,算力乘数的增长率需要达到两倍以上:基于合理假设,大约为2.5至3倍。⁶ 由于加速幅度及其多大程度来自AI均存在不确定性,我倾向于取约2至3倍。
同样,研究员劳动力只是发现这些算力乘数的一个投入要素:他们需要测试自己的想法,而这需要算力来做实验。如果我们假设一个非常简单的Cobb-Douglas模型,其中实验算力和劳动力同等重要,这意味着对劳动力的提升幅度大致需要是算力乘数加速倍率的平方。⁷ 这暗示我们需要约(2-3倍)² = 4-9倍的劳动力加速,才能使整体AI能力进展翻倍。⁸
然而,一旦能力开始显著加速,这也意味着低垂的果实以相应更快的速度被摘取。每一个新的算力乘数的发现和实现都需要越来越多的投入(即“想法越来越难找”)。在AI带来显著加速之前,劳动力大致通过雇佣更多人以某种固定的指数速率增长。结合算力的增长,这足以抵消收益递减,维持能力进展的基线速度。但要在不加快算力扩展的情况下维持新的更快进展速度,我们需要整体劳动力以新的更快速度增长。
由于人类劳动力的增长速度基本被困在原来的速率上,AI带来的提升必须随时间不断增大,才能维持能力以新速度进展。这意味着在AI推动加速进展数月之后,如今的提升幅度⁹需要高于最初翻倍进展所需的约4-9倍:也许必要的劳动力提升约为10倍。这一估计非常不确定,更高或更低都合理。但它与Anthropic员工的非正式自我报告出奇地吻合——他们称目前从内部模型的使用中获得了约12倍的提升。
当你想象10倍提升时,不应该想象每个研究员现在都变成了十个人的团队——任何做过实际工作的人都知道,十个人的团队每小时产出的有价值工作并不是一个人的十倍。更准确地说,就好像Anthropic的每个研究员都身处一个时间扭曲气泡中,外部世界每过一天,他们经历十天。就好像AI让他们思考、阅读、说话、打字以及做其他一切事情都快了十倍。¹⁰ Anthropic大概无论如何招聘多少人,都无法将研究加速到这个程度。¹¹
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。