Google DeepMind用AlphaProof Code形式化验证Signal加密协议代码

分享 已复制 Google DeepMind 的研究人员如何构建了一个新的智能体框架，对 Signal 加密协议的代码进行了形式化验证——这一直被视为一项重大的安全挑战 今天，我们分享软件安全领域的一个里程碑，这一领域长期以来被视为一项重大的安全挑战：Google DeepMind 的研究人员引导 AI 智能体，用数学方法证明了 Signal 协议底层实际代码的关键安全属性。Signal 协议是保护 Signal 和 Google Messages 等应用中数十亿私密对话的技术。 这一突破性发现借助 AlphaProof Code 完成。它是一个新颖的智能体框架，能够以前所未有的深度进行形式化验证，将人类专业知识与 AI 智能体相结合。形式化验证——用数学方法证明代码运行正确、没有缺陷——是最高标准的安全保障；然而，它难度大，且往往耗费大量人力。 我们的工作标志着 AI 首次被用于如此深度地形式化验证一个广泛部署的加密协议。这也是首次通过任何方法（无论是否借助 AI）对这样一个广泛部署的协议的实现进行形式化验证。 AlphaProof Code 是一个多 LLM 智能体框架，它像研究团队那样拆分形式化验证的工作：人类专家与 AI 协作决定要证明什么，然后由一组 AI 智能体来完成。 首先，我们的研究人员与多种模型协作，将 Signal 的安全目标转化为形式化的数学规约，并由人类专家逐一审查。在此基础上，由 Gemini Carbon 驱动的智能体完成证明，生成了超过六百万行 Lean 代码。Lean 是一种用数学方法证明代码正确性的计算机语言。 接下来，智能体对证明进行审计，并标出需要人工复核的部分——仅占代码库的百分之一，大大节省了时间。由于 Lean 会自动检查其余部分，我们的专家可以将审查集中在最需要人类判断的地方。 加密协议几乎支撑着所有数字通信，从网上银行到网页浏览，一个缺陷就可能同时暴露数百万人的信息。正因如此，专家们花费了数十年对它们进行形式化分析。 但大多数协议验证止步于设计层面。我们的智能体走得更远，证明编译后的代码满足关键安全属性——例如在设备暂时被攻破前后都能保护消息安全——一直验证到设备上运行的确切代码。由于现实世界的漏洞往往隐藏在设计と实现之间的缝隙中，弥合这一缝隙使这些证明的复杂度大大增加。 即便复杂度如此之高，我们的验证过程仅用了四周——而这项工作历来需要专家团队花费数年——证明了 Signal 的核心加密代码提供了我们专家所规定的安全保护。 为了确认 AlphaProof Code 能区分正确代码和有缺陷的代码，我们在 Signal 代码的隔离版本中重新引入了两个此前已修复的真实缺陷。在这两种情况下，系统都生成了经过机器校验的证明，表明有缺陷的版本是不安全的。 在 AlphaProof Code 中，AI 智能体帮助用户编写规约，然后自主证明实现满足该规约。每个证明都由 Lean 检查，以验证智能体的工作。 “虽然以往的形式化验证聚焦于代码中较小的部分，但 Google DeepMind 的方法实现了显著的扩展，”Signal 首席技术官 Ehren Kret 表示。“使用 AI 智能体将实际运行的代码转化为有效的 Lean 定理是一项重大突破。随着 AI 驱动的安全威胁不断增长，严格验证 Signal 协议的实现让我们对代码的隐私保障更有信心。” 虽然以往的形式化验证工作必然聚焦于较小的范围，但这种新方法实现了显著的扩展。传统上，验证生产代码严格符合其加密设计需要大量人工投入，因此使用 AI 智能体自动将实际运行的代码转化为有效的 Lean 定理是一项重大突破。随着 AI 驱动的安全威胁不断增长，通过自动定理证明对 Signal 核心协议进行严格验证，让我们更加确信我们的代码能够兑现其隐私保障。 攻克这一长期存在的挑战，展示了 AI 如何为企业、政府和关键基础设施带来顶尖的安全保障，帮助抵御由智能体驱动的网络威胁。 验证 Signal 的核心加密技术，为保护其他关键系统奠定了基础，从医疗设备固件到电网软件。 推广这些技术需要持续的研究。与 CodeMender 等自动化防御智能体配合，形式化验证可以帮助应对现代网络威胁的速度和规模，打造出带有数学证明其防护有效的软件。 我们正在开源我们的形式化验证产物，供社区使用。请阅读下方的技术论文。 本研究由 Swarat Chaudhuri、Andrew Ferraiuolo、Anton Kovsharov、Tej Chajed、Sam Schlesinger、Karn Seth、Jonathan Katz、Charles Sutton 和 Pushmeet Kohli 完成。 我们感谢 Eric Wieser 协助开源我们的代码，Owen Jones 提供项目管理支持，以及 Martín Abadi、Christopher Henson、Katerina Hristova、Henryk Michalewski、Jonathan Protzenko 和 George Tsoukalas 的有益讨论。我们感谢 Signal 的 Rolfe Schmidt、Michael Rosenberg 和 Ehren Kret 对我们的方法学提供的反馈。我们也感谢 Tulsee Doshi、Four Flynn、Kate Olszewska、Alicia Huang、Andy Liu、Benoit Schillings、Raluca Ada Popa、Melvin Johnson、Koray Kavukcuoglu、Demis Hassabis 和 Sundar Pichai 对本项目的支持。