返回资讯中心
外部精选
软件工程
#开发者实时流

Vals测试显示开源AI模型网络攻击能力已逼近闭源前沿模型

来源标题:Free Chinese AI Models Are Getting Scary Good at Hacking

AI能力评估公司Vals测试发现,可公开下载的开源模型在网络攻击任务上已开始追平实验室中受严格管控的前沿闭源模型。其研究员Nikil Ravi称,这意味着闭源模型在网络安全技能上不再具有绝对优势,前沿实验室限制模型访问以延缓此类能力扩散的做法可能收效甚微。Anthropic的红队负责人Logan Graham此前曾表示,受控访问只是在先进黑客能力普及前争取时间。

Hacker News 最新daretograsp2026/11/16 · 今天12 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Vals是一家评估AI能力的公司,它着手测试不同AI模型在模拟企业网络上执行复杂的多步骤网络指令的能力。

“最顶尖的前沿模型被锁在实验室里,只能通过可信访问计划获取,而如今,任何人都能下载的开源模型正开始与它们匹敌,”Vals的一位研究员Nikil Ravi说道。

该公司的发现表明,闭源模型在网络技能上已不再拥有决定性优势,这意味着前沿实验室近期为限制其模型访问、从而减缓此类能力扩散所做的努力,可能意义不大。

这些发现也值得注意,因为美国前沿实验室,尤其是Anthropic,对新模型限量发布的依据——从4月的Claude Mythos Preview开始——正是这样一种想法:受控访问只能为先进黑客能力的广泛可用争取一些时间。

Anthropic的前沿红队负责人Logan Graham在4月对WIRED表示,公司的Project Glasswing——该计划让可信伙伴获得新模型的完整能力——专注于把这些工具“交到防御者手中,让他们抢占先机”。

“我们需要现在就开始为一个这些能力在6、12、24个月内广泛可用的世界做准备。安全领域的许多方面都会不同,”他当时对WIRED说。

七个月后,这一转变似乎如期而至。

Vals在两个模拟场景中测试了AI模型,给它们设定了各种具体任务。第一个场景涉及一个可通过面向公众的网站访问的模拟企业网络。第二个场景涉及两个不同的公司网络;模型需要攻破第一个网络才能进入第二个。

研究人员发现,OpenAI最先进的网络模型Daybreak(仅向可信伙伴开放)能力最强,在平均两次测试中完成了分配给它的81%的任务。中国开源权重模型DeepSeek紧随其后,平均完成了73%的目标。Vals的研究人员指出,在某些任务上,两个模型得分相同。

研究还显示,在此类任务中使用开源权重模型的成本要低得多。Vals表示,GPT-6-Sol执行一次攻击的token成本为17至46美元,而DeepSeek为2至3美元。开源模型通常更便宜,因为它们可以在自己的硬件上运行。Vals的CEO Rayan Krishnan表示,这也为防御方提供了强烈动机去使用开源模型而非专有模型。

OpenAI未立即回应置评请求。

今年网络安全领域的许多情况都如预测般展开:AI自动化了核心黑客任务,帮助攻击者和防御者发现代码中大量新漏洞,并快速探测网络弱点。尽管发现的规模和速度、以及修复所发现软件缺陷的强度都在增加,专家们仍在争论AI是否从根本上改变了网络安全防御的概念基础和原则。换言之,目前仍不清楚AI工具是构成了一种新型威胁,还是放大了长期存在的安全挑战。

开源权重模型如今开始与闭源模型匹敌,这一事实对于理解 criminal hackers 如何利用AI、以及公司和开发者应如何应对至关重要。但在实践中,近几个月对网络犯罪和国家支持的黑客活动的现实观察一再表明,攻击者在做他们一贯做的事:节省资源,在大部分活动中通常使用较旧、能力较弱的模型——无论是专有还是开源。而且即便有严格管控,防御者也必须假设,资金最雄厚、动机最强的攻击者一直以来至少对闭源模型有一定程度的访问。

“我总体上同意,开源权重模型如今能够产生先进的攻击和漏洞,尤其是考虑到那些通过修改权重来禁用安全训练的abliterated模型,”云安全公司Edera的联合创始人兼首席技术官Alex Zenla说道。“我的保留意见是,闭源实验室很可能已经训练了超出这些能力的额外未发布模型。所以我会把这很大程度上看作一场猫鼠游戏。实验室认为自己正在快速行动以超越开源权重模型,以便在开源权重模型发现漏洞之前修复它们。不幸的是,我确实认为这可能是一个危险安全格局的开端。”

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →