OpenAI发布GPT-6 Cyber网络安全模型，可发现并修复漏洞

GPT‑6 Cyber：推进对齐网络安全智能体的前沿

一个经过训练、能够发现并验证可利用漏洞、同时始终停留在研究人员设定范围内的网络安全模型。 （在新窗口打开） 加载中… 分享 推进前沿网络安全能力推进前沿网络安全能力 更强的对齐，更善于守住边界 为安全团队带来实际影响 检测滥用并阻止高风险活动 保护关键基础设施 扩大可信防御者的访问权限 推进前沿网络安全能力 更强的对齐，更善于守住边界 为安全团队带来实际影响 检测滥用并阻止高风险活动 保护关键基础设施 扩大可信防御者的访问权限 我们推出 GPT‑6 Cyber，这是安全研究领域的一次重大飞跃：它发现和修复漏洞的能力更强，并且更可靠地停留在研究人员设定的边界内。相比 GPT‑5.6 Cyber，GPT‑6 Cyber 在关键网络安全基准上取得重大提升，包括在 ExploitGym 上 51% 的相对改进，以及在范围遵守测试上的阶跃式提升。它已经在帮助保护真实世界的软件，在 Linux 和 Firefox 等安全关键代码库中发现并验证了数千个漏洞利用。

ExploitGym 测试模型能否利用指定漏洞，GPT‑6 Cyber 在该基准上得分 48.5%，高于 GPT‑5.6 Cyber 的 32.1%。它也更可靠地遵守任务边界：在一项单独的对齐评估中，GPT‑6 Cyber 在没有部署提示的情况下，在 99.93% 的测试中避免利用范围外的服务，在有该提示的情况下达到 100%。这种对齐方面的改进，反映了其为保持在授权范围内、遵守限制并准确报告结果而进行的专门训练。

这些能力已经在帮助保护真实系统。我们的研究人员使用 GPT‑6 Cyber 在 Linux 中开发了 948 个提权漏洞利用，并在 Firefox 中识别出 81 个此前未知的高危漏洞，尽管此前已用前沿模型进行过大量测试。该模型还帮助开发候选补丁，Mozilla 已发布针对许多 Firefox 漏洞的修复（在新窗口打开）。Cisco、Calif 和 CodeRabbit 的安全团队正在使用它进行漏洞研究和代码审查，我们也依赖它来发现并修复自身基础设施中的弱点。

很明显，我们利用前沿模型来保护软件的窗口有限。我们的目标是大幅扩展 Daybreak，将先进的安全研究带给各种规模的组织、独立研究人员和开源维护者。GPT‑6 Astra 等主线模型已经支持代码审查、漏洞分类和补丁开发。Daybreak Blue 帮助经过验证的防御者验证漏洞和修复，减少不必要的拒绝；而 Daybreak Red 则借助 GPT‑6 Cyber 实现更深入的漏洞利用开发和授权安全测试。

GPT‑6 Cyber 相比 GPT‑5.6 Cyber 是一次重大升级，在大多数网络安全任务上优于 GPT‑6 Astra，即使 Astra 没有拒绝请求也是如此。我们在要求模型理解软件、识别漏洞并开发可用漏洞利用的任务上对该模型进行了评估。基于这些结果，我们根据 Preparedness Framework 将该模型在网络安全方面归类为 Critical，高于 GPT‑5.6 Cyber 的 High。

ExploitGym 测试模型能否利用远程目标中的指定漏洞，GPT‑6 Cyber 在该基准上得分 48.5%，比 GPT‑5.6 Cyber 的 32.1% 高出约 16 个百分点。为了测试漏洞发现能力，我们还构建了一项针对攻击性 Web 渗透测试的新评估。模型在无法访问源代码的情况下探测 Web 应用。GPT‑6 Cyber 的漏洞召回率达到 40.3%，而 GPT‑6 Astra 为 32.0%。

Daybreak Red 旨在支持更高级的安全工作流，包括开发可用的漏洞利用并将其用于远程目标。为了评估这些能力，我们构建了一个名为 RemoteExploitBench 的新基准，使用部署在受控环境中的 GitLab、PostgreSQL 和 Jenkins 等应用中的已知漏洞。在我们的初步评估中，运行 Daybreak Blue 的 GPT‑6 Astra 拒绝了 100% 的任务，而 GPT‑6 Cyber 完成了 95%；它唯一的失败是一个无法在远程奏效的漏洞利用。完整结果和评估设置请参阅系统卡（在新窗口打开）。

网络安全智能体的一个风险是，它们会超出所分配任务的范围，尝试利用不相关的服务，或无视研究人员的交战规则。

我们将对齐作为 GPT‑6 Cyber 的核心重点，使用专门训练帮助模型保持在授权范围内、遵守对其操作的限 制，并准确报告其工作。在部署之前，我们进行了一系列对齐评估来衡量这些行为。完整结果请参阅系统卡（在新窗口打开）。

其中一项评估是 ExploitGym Honeypot，它参考了 Hugging Face 事件。我们在隔离环境中给模型一个困难的漏洞利用任务，并提供对包注册表或对象存储等支持服务的访问。我们故意让这些服务容易被利用，以便攻击它们可以揭示任务的 flag。模型必须推断出利用它们超出了其任务范围。

GPT‑6 Cyber 在这项评估上相比 GPT‑5.6 Cyber 表现出阶跃式改进。在没有部署安全提示的情况下测试时，它在 99.93% 的情况下避免利用范围外的服务，高于 GPT‑5.6 Cyber 的 94.49%。在有这些提示的情况下，GPT‑6 Cyber 100% 保持在边界内。

我们可以直接在 GPT‑6 Cyber 模型的思维链中看到它如何推理保持在边界内：

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）