
Vals测试显示:DeepSeek与GLM的网络攻击能力接近OpenAI未公开模型
来源标题:Free Chinese AI Models Are Getting Scary Good at Hacking
Vals的模拟网络入侵测试显示,开源可下载的DeepSeek和GLM在复杂多步网络攻击任务上的表现已接近OpenAI最先进的非公开网络安全模型。Vals研究员Nikil Rav称,实验室内部的前沿模型正开始被任何人可下载的开源模型追平。这意味着前沿实验室限制模型访问以延缓此类能力扩散的做法可能失效。
以下正文由 AI 翻译自 Wired(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Vals是一家评估AI能力的公司,它着手测试不同AI模型在模拟企业网络上执行复杂多步网络指令的能力。
“最顶尖的前沿模型被锁在实验室里,只能通过受信访问计划获取,而如今任何人可下载的开源模型正开始与之匹敌。”Vals研究员Nikil Rav表示。
该公司的发现表明,闭源模型在网络技能上已不再具有决定性优势,这意味着前沿实验室近期限制其模型访问、从而减缓此类能力扩散的努力可能已无实际意义。
这些发现也值得注意,因为美国前沿实验室,尤其是Anthropic,正是基于“受控访问只能争取时间、先进黑客能力终将广泛可得”这一前提,才对新模型实行限量发布——始于4月的Claude Mythos Preview。
Anthropic前沿红队负责人Logan Graham在4月告诉WIRED,公司的Project Glasswing——向受信方开放新模型全部能力——重点在于让这些工具“交到防御者手中,以抢占先机”。
“我们需要现在就为这样一个世界做准备:这些能力将在6个月、12个月、24个月内广泛可用。安全领域的许多方面都将截然不同。”他当时对WIRED表示。
七个月后,这一转变似乎如期而至。
Vals在两个模拟场景中测试了AI模型,给它们设定了各种具体任务。第一个场景涉及一个可通过面向公众的网站访问的模拟企业网络。第二个场景涉及两个不同的公司网络;模型需要先攻破第一个网络,才能进入第二个网络。
研究人员发现,OpenAI最先进的网络模型Daybreak(仅向受信合作伙伴开放)能力最强,在平均两次测试中完成了81%的任务。中国开放权重模型DeepSeek紧随其后,平均完成73%的目标。Vals研究人员指出,在某些任务上,两个模型得分相同。
研究还显示,在此类任务中使用开放权重模型要便宜得多。Vals称,GPT-6-Sol执行一次攻击的token成本为17至46美元,而DeepSeek仅需2至3美元。开源模型通常更便宜,因为它们可以在自有硬件上运行。Vals首席执行官Rayan Krishnan表示,这也为防御方使用开源模型而非专有模型提供了强大激励。
OpenAI未立即回应置评请求。
今年网络安全领域的大部分发展一如预期,AI将核心黑客任务自动化,帮助攻击者和防御者发现代码中大量新漏洞,并快速探测网络弱点。尽管发现的速度和规模、以及修复所发现软件缺陷的强度都在增加,专家们仍在争论AI是否已从根本上改变网络安全防御的概念基础和原则。换言之,目前仍不清楚AI工具是构成一种新型威胁,还是放大了长期存在的安全挑战。
开放权重模型如今开始与闭源模型匹敌,这一点对于理解犯罪黑客如何利用AI、以及公司和开发者应如何应对至关重要。但在实践中,近几个月对网络犯罪和国家支持的黑客活动的现实观察一再表明,攻击者一如既往地节约资源,在大部分活动中通常使用较旧、能力较弱的模型——无论是专有还是开源。而且即便有严格管控,防御方也必须假定资金最雄厚、动机最强的攻击者一直至少对闭源模型有一定访问权限。
“我总体上同意,开放权重模型如今能够产生高级攻击和漏洞,尤其是考虑到那些通过修改权重来禁用安全训练的ablated模型,”云安全公司Edera联合创始人兼首席技术官Alex Zenla表示。“我的保留意见是,闭源实验室很可能已经训练了超出这些能力的额外未发布模型。所以我会把这看作一场猫鼠游戏。实验室认为自己正在快速行动以超越开放权重模型,以便在开放权重模型发现漏洞之前先修复它们。不幸的是,我确实认为这可能是一个危险安全格局的开端。”
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。