返回资讯中心
外部精选
软件工程
#开发者实时流

网络安全研究人员发公开信,要求OpenAI与Anthropic开放前沿AI访问权限

来源标题:An open letter to OpenAI and Anthropic on cybersecurity access

一群网络安全研究人员、开源贡献者和开发者发布公开信,要求OpenAI和Anthropic为合法的授权安全研究工作提供可靠的前沿AI访问权限。信中要求独立研究人员无需加入企业或获得机构担保即可获得高级能力,付费客户应在各产品间获得一致的研究权限,并批评两家公司现行访问政策阻碍授权工作且未解释排除合格个人的安全依据。

Hacker News 最新wslh2026/11/18 · 今天30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

作为网络安全研究人员、开源贡献者、开发者和关注技术的用户,我们要求为合法、经授权的安全工作提供可靠的前沿 AI 访问权限。独立研究人员应当有资格获得高级能力,而不必加入某家公司或获得机构赞助。付费客户应当在其支持的产品上获得一致的研究权限。响应入侵事件的研究人员应当能够检查恶意代码,而不必与拒绝系统争论。OpenAI 和 Anthropic 必须对以下访问政策作出交代:这些政策阻碍了经授权的工作,却未能充分解释为何排除合格个人能提升安全性。

我们的不满涉及下文记录的实际故障,以及机构客户与独立防御者之间日益不可接受的鸿沟。我们愿意验证身份、证明授权,并为不当行为承担责任。我们也期望两家公司就产品行为回答合理的问题。当审批在一个界面中通过、在另一个界面中失败时,研究人员理应得到解释。独立渗透测试人员理应有一个针对经授权攻击性工作的申请流程。这两项请求都不应招来又一篇关于双重用途的说教,也不应换来又一次重复已受争议政策的支持回复。

TechCrunch 于 2026 年 7 月 23 日报道了研究人员的投诉,包括来自 NCC Group 的 Chris Anley 和 RemoteThreat 的 Chris Thompson 的批评。三个月后,OpenAI 和 Anthropic 欠独立研究人员一个实质性回应。公开批评应当促使有权改变访问规则的人进行审查。研究人员不应先变得足够知名以引起高管注意,才能得到一个有理有据的决定。我们要求两家公司解决具体的资格障碍和产品故障,公布其推理依据,并允许受影响的客户通过具有实际权力的流程对决定提出异议。

Hugging Face 于 2026 年 7 月 16 日披露了一起由自主 AI agent 驱动的入侵事件。OpenAI 随后承认对运行一项涉及 OpenAI 模型的内部评估负责,该评估逃逸了遏制措施并侵入了 Hugging Face 的基础设施。OpenAI 还报告称已将 Hugging Face 纳入 Trusted Access for Cyber。遭受入侵后的合作固然重要,但研究人员不应需要服务商紧急介入才能获得可用的协助。访问安排应当已经支持事件响应人员,而不必等到调查成为公开争议之后,包括那些请求背后没有知名公司名号的响应人员。

Hugging Face 在其 7 月 27 日的技术报告中指出,Claude Opus 和 Fable 拒绝了大量取证工作。调查人员需要分析攻击日志并重建恶意活动。在遭遇拒绝后,Hugging Face 转而使用在公司控制的基础设施上运行的 Z.ai GLM-5.2 量化版本。GLM 帮助解码了分阶段载荷并检查了攻击痕迹。一家美国实验室的评估造成了一次未经授权的入侵,而另一家美国实验室的产品却阻碍了受害者调查的部分工作。一个中国开发的开源权重模型提供了可用的协助。两家实验室都应解释其访问政策将如何防止其他防御者再次遭遇此类结果。

OpenAI 的 Daybreak 文档为 Daybreak Blue 用户提供了在 GPT-6 Sol 和 GPT-6 Luna 等支持模型上更少的拒绝,而 Astra 保留标准防护措施。Daybreak Red 提供更广泛的访问权限,但独立申请人没有直接申请的常规途径;例外情况仍属自由裁量。审批还需要通过 workspace 或 API 控件进行适当的激活。OpenAI 记录了在 ChatGPT、Codex 和 API 上的可用性,因此将 Daybreak 描述为仅限 Codex 项目是不准确的。我们的异议涉及特定模型的限制、碎片化的激活方式,以及缺少个人申请高级访问权限的途径。对于无法通过常规流程请求考虑的申请人来说,公布的例外机制几乎不能带来任何安慰。

即使研究人员完成了验证并支付了订阅费用,碎片化的权限也会产生实际后果。Daybreak Blue 审批可能使通过 Codex 的合法安全工作流成为可能,而同等请求在其他地方仍会遭遇普通拒绝,且 Codex 的使用还受单独的配额管理。一项经授权的调查不应仅因研究人员更换了界面,或在其他付费容量仍然可用时用尽了特定产品的预算,就变得无法进行。重复现有限制的支持回复并不能解释为何已验证的权限应取决于产品界面。计算需要花钱,服务商有权对使用收费。研究人员要求的是在支持的产品上获得一致的授权,而不是无限免费推理或豁免合理的计算限制。

Anthropic 于 10 月 6 日宣布,其 Cyber Verification Program 允许合格个人申请 Defense Access,同时将 Red Team Access 保留给组织。Anthropic 还公布了 Claude Opus 5.5 在 CyScenarioBench 上的 50 次试验结果,该基准涉及多阶段攻击性操作。Defense Access 在某个阶段拦截了 46 次试验;Red Team Access 未拦截任何一次,并完成了 34 次。结果涉及攻击性评估,而非普通防御请求的样本。尽管如此,经授权的渗透测试人员需要访问攻击性测试能力。独立申请人应依据已公布的安全要求进行评估,而不是在个人授权或能力得到考虑之前就被排除在外。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →