
Claude Fable 5.2驱动千个智能体团队独立完成费马大定理形式化证明
来源标题:Safely scaling multi-agent teams with Claude Fable 5.2nd PostgreSQL
研究团队用1000个运行Claude Fable 5.2早期版本的智能体,在没有Prove2Me平台支撑和研究员引导的情况下,独立复现了费马大定理的形式化证明。整个过程耗时28.7小时,输出token仅为原版的约三分之一,证明长度缩短至原版的七分之一。每个智能体在无网络沙箱中运行,所有命令和文件操作均经分类器与离线监控审核。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
多智能体团队能够解决具有挑战性的长周期问题。九月,我们发表了费马大定理的首个端到端形式化证明,该证明由数十个智能体运行一个内部研究模型完成,该模型大致相当于 Claude Fable 5.1。这项工作依赖于 Prove2Me——一个用于数学形式化的平台——以及一位研究员的指导。在一项新的玩具实验中,一个由 1,000 个智能体组成的团队运行 Claude Fable 5.2 的早期版本,在没有 Prove2Me 提供的脚手架、也没有研究员引导的情况下复现了该证明。该团队耗时 28.7 小时,使用的输出 token 数仅为原来的三分之一,写出的证明长度仅为原来的七分之一。
每个智能体都在一个无法访问互联网的沙箱中工作。一个分类器在每个 shell 命令和文件编辑执行前进行检查,一个离线监控器审查团队的每一个动作。我们给智能体提供了一份包含 60 条陈述的列表、一段对经典证明路线的一句话概述、这些陈述所使用的定义,以及我们此前形式化工作中已证明的 47 个引理,并分配了领导和辅助角色。我们没有就如何证明该定理或如何组织自身提供任何其他指导。
这项玩具实验表明,运行 Fable 5.2 这类模型的智能体团队能够在精心设计的安全边界内完成宏大的长周期目标。
费马大定理指出,对于任何大于 2 的 n,不存在正整数 a、b、c 满足 aⁿ + bⁿ = cⁿ。该定理在 350 多年间未被证明,直到 1995 年 Andrew Wiles 爵士发表了 129 页的证明。形式化该证明——使每一步都可被计算机检验——一直是数学界的长期目标。
我们九月的形式化工作由一位研究员和数十个智能体耗时 11 天、消耗约 60 亿输出 token 完成。他们用 Lean 编写了 1300 万行代码,Lean 是一种由计算机检验证明每一步的编程语言。
智能体通过 Prove2Me 进行协调,该平台由田一鹏(现为 Anthropic 的技术员工)及其在哥伦比亚大学的合作者设计。Prove2Me 使用一个共享图,将每个待证明的陈述与其被拆分成的更小陈述连接起来。任何智能体都可以拆分陈述,其他智能体可以向该图询问哪些未证明的部分已准备好处理,这使它们不会迷失项目状态。每个陈述及其证明都保存在一个可独立编译的单独文件中,因此许多智能体可以并行工作而无需编辑相同的文件。
我们想看看,一个运行 Fable 5.2 这类模型的智能体团队,能否在没有 Prove2Me 或研究员指导工作的情况下,使用由通用工具构建的 harness 产生这一结果。
对于这项任务,我们给这个由 1,000 个智能体组成的团队提供了 60 条待证明的陈述,包括最终定理和 59 个中间里程碑。对于每条陈述,智能体必须用 Lean 编写证明,用 Lean 的工具构建并检查它,然后将其提交到 Git 上的共享主分支,由评分器进行检查。我们为每个智能体提供了以下工具:
证明工作可以被拆分,这使其成为多智能体团队的良好任务。但智能体也需要协调,既要基于彼此的工作继续推进,又要避免重复劳动。在我们最初的形式化工作中,Claude 的早期尝试失败了,因为智能体迷失了项目状态,无法有效协作。迁移到 Prove2Me 平台解决了这个问题。
在这次运行中,每个智能体都在自己的轻量级虚拟机上拥有一个沙箱。单台共享机器在约 100 个智能体时达到极限:我们的 100 智能体运行中有一半以上因内存、磁盘或 CPU 耗尽而不得不停止或重启。
有了 1,000 个独立沙箱,智能体需要一种共享工作的方式,因此我们给它们提供了一个 SQL 数据库(图 1)。我们选择 SQL 是因为它提供了组织信息的通用原语,其事务能够处理来自 1,000 个智能体的并发写入,而且 Claude 已经熟悉它。智能体使用该数据库来认领任务、共享笔记和记录已完成的工作。
我们的提示词给 Claude 提供了一份包含 60 条待证明陈述的列表,每条都有一行非正式描述,并描述了可用的工具(如上所列)。
我们给团队的唯一结构是一个层级体系,由一名领导和 999 名辅助者组成。我们告诉领导将问题拆分为若干部分并分配给辅助者。我们告诉辅助者预期会收到领导分配的工作,如果任务不明确就与领导确认。
在运行期间,harness 向领导发送了 19 条关于剩余时间的自动提醒,每条都鼓励领导继续推进。
正如我们此前所分享的,没有任何单一防御层足以约束一个智能体团队。在此实验中,我们将沙箱与实时和离线监控相结合,使每个智能体处于自己的虚拟机中且无网络访问,并检测任何试图逃逸沙箱或篡改监控的行为。
我们通过以下方式保护每个智能体的沙箱(图 2):
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。