返回资讯中心
外部精选
软件工程
#社区热议

Anthropic称AI或即将推动自身研究进度翻倍加速

来源标题:AI is dramatically accelerating AI research

Anthropic在S1文件中表示可能即将达到其负责任扩展政策中「AI大幅加速进展」的门槛,即整体能力进步速度达到AI大规模参与研发前最快持续速度的两倍。METR对该公司的深度调查显示,这一加速可能归因于AI自动化AI研发。Anthropic最新RSP于2026年7月生效。

Hacker Newsyurivish2026/11/6 · 11 天前30 分钟阅读

以下正文由 AI 翻译自 Hacker News(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Ajeya Cotra 2026年11月6日 24 1 7 分享 本文讨论的是METR发布的一份关于Anthropic内部AI研发加速的公开报告。我本人并未参与该项目,也没有看过未经删改的报告。¹ 文中所有观点仅代表我个人,不代表METR或报告作者。

感谢Ryan Greenblatt的讨论、反馈以及在建模方面的帮助,感谢Daniel Kokotajlo、Eli Lifland和Hjalmar Wjik的评论。

本周早些时候,Anthropic在其S1文件中表示,他们“可能即将达到”其《负责任扩展政策》中所定义的“因AI而大幅加速进展”的门槛。在其最新的RSP(2026年7月生效)中,他们说明该门槛将在以下情况下视为达成:

他们观察到或预期整体能力进展速度,将达到AI对AI研发做出显著贡献之前最快持续速度的两倍。² 这一加速可以合理归因于AI对AI研发的自动化,而非算力或其他投入的增长。³

过去几个月,我在METR的一些同事一直在进行一项深度访问调查,以了解Anthropic的AI系统对其加速程度究竟有多大。根据我对他们报告以及Anthropic RSP的阅读,那个“大幅加速”的门槛似乎已经被跨过了。⁴

从2025年10月到2026年10月,Anthropic的能力进展速度大约是其前十二个月的两倍。他们报告的测量指标是Epoch能力指数的一个内部版本,称为AECI;其他大量支持加速的证据则被删改。他们表示,这些被删改的证据是“他们所发现的最具信息量的证据中的大部分”。

虽然这一速度最初加快可能是多种原因混合所致,但AI自动化很可能是如今能力仍能以这一更快速度提升的主要大部分原因。他们相信这一点的理由已被删改。

这件事比乍听起来要重大得多。我认为这份报告是我们过去几年中获得的关于AI风险的最重要更新——远比Hugging Face攻击事件重大。粗略来看,它指向的时间线比大多数外部研究者(包括AI 2027团队)所预测的要短得多。

重要的是,如果AI大致让能力进展速度翻倍,那么它对人类研究员的加速必定远不止两倍。

研究员的工作是改进算法和架构;Anthropic有时将这些创新称为“算力乘数”。⁵ 整体AI能力(“有效算力”)是算力乘数与训练算力的乘积。由于算力乘数只是能力的一个投入项,这意味着如果AI能力整体上因软件进展而加速两倍,那么算力乘数的增长率需要超过两倍:基于合理假设,可能约为2.5至3倍。⁶ 由于加速幅度以及其中有多少来自AI都存在不确定性,我倾向于取约2至3倍。

同样,研究员劳动力只是发现这些算力乘数的一个投入项:他们需要测试自己的想法,而这需要算力来做实验。如果我们假设一个非常简单的Cobb-Douglas模型,其中实验算力和劳动力同等重要,那就意味着对劳动力的提升大致需要是算力乘数加速倍数的平方。⁷ 这暗示我们需要约(2至3倍)² = 约4至9倍的劳动力加速,才能使整体AI能力进展翻倍。⁸

然而,一旦能力开始显著加速,这也意味着低垂的果实会以相应更快的速度被摘走。每一个新的算力乘数都需要越来越多的工作来发现和实现(即“想法越来越难找”)。在AI带来大量加速之前,劳动力大致通过招聘更多人力以某种固定的指数速率增长。结合算力的增长,这足以抵消收益递减,从而维持能力进展的基线速度。但要在不加快算力扩张的情况下维持新的更快进展速度,我们就需要整体劳动力以一个更快的速度增长。

由于人类劳动力的增长基本停留在旧速率上,来自AI的提升就必须随时间越来越大,才能仅仅维持能力进展的新速度。这意味着在AI带来数月加速进展之后,如今的提升幅度⁹需要甚至高于约4至9倍——那是对起步阶段实现翻倍所需提升的估计:也许所需的劳动力提升约为10倍。这非常不确定,显著更高或更低都有可能。但这与Anthropic员工的非正式自述惊人地吻合,他们说现在从内部模型的使用中获得了约12倍的提升。

当你在想象10倍提升时,你不应想象每个研究员现在都变成了一支十人团队——任何做过实际工作的人都知道,十人团队每小时完成的有价值工作并不是一个人的十倍。相反,这就好像Anthropic的每个研究员都处在一个时间扭曲气泡中,外部世界每过一天,他们就经历十天。就好像AI让他们思考、阅读、说话、打字以及做其他一切事情都快了十倍。¹⁰ Anthropic大概无论招聘多少人都无法把研究速度提升到这种程度。¹¹

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →