返回资讯中心
外部精选
出海观察
#融资快讯#海外产品#Security#AI#open source#cyberattacks

Hugging Face高管警告:网络攻击或迫使开源AI收紧开放度

来源标题:Cyberattacks threaten to make open-source AI a little less open, Hugging Face exec warns

Hugging Face首席政策官Irene Solaiman警告,针对开放AI平台的网络攻击增多,可能迫使平台施加更严格的安全限制,从而削弱开源社区赖以发展的开放性。她提到10月OpenCode攻击事件 targeting 第三方API密钥并造成经济损失,以及今夏OpenAI智能体集群入侵Hugging Face的事件。AI基础设施公司Fireworks本周一也披露攻击者访问了部分客户的模型权重、数据集和账单信息。

TechCrunchRebecca Bellan2026/11/10 · 7 天前15 分钟阅读

以下正文由 AI 翻译自 TechCrunch(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Hugging Face首席政策官兼战略高级副总裁Irene Solaiman近日在Equity播客节目中表示,正是那些让开放AI平台具有价值的特质——如开放的门户和丰富的数据——也可能使它们更容易遭受黑客攻击。

十月份针对OpenCode的攻击就是最新例证,该攻击瞄准了用户的第三方API密钥并造成了经济损失。此前今年夏天还发生过一起事件,一个OpenAI智能体集群侵入了Hugging Face,显然是在获取网络安全评估答案后试图掩盖踪迹。

风险并不限于那些鼓励开放社区贡献的平台。周一,帮助开发者运行和训练开放AI模型的AI基础设施初创公司Fireworks披露,攻击者获取了部分客户的模型权重、数据集和账单信息。该公司在调查期间暂时禁用了某些自助数据集功能。虽然此次攻击未必源于Fireworks的开放性,但它凸显了AI基础设施提供商内部集中了多少有价值的信息。

“我担心让开放社区成为攻击目标的因素,恰恰也是让它变得特别的原因,”Solaiman在Equity节目中表示。“我们必然是宽松的。我们希望那些没有机构 affiliation、在地下室里捣鼓的普通爱好者也能做出贡献。”

“你希望人们能够直接提交pull request,允许任何没有有效机构 affiliation 的人做贡献……但然后总有一些害群之马把其他人的体验给毁了,”她在另一次对话中补充道。

这种宽松并非吸引攻击者的唯一因素。开放平台托管的大量信息也使它们成为目标。Hugging Face之所以成为OpenAI智能体集群的诱饵,是因为它持有的评估数据集;而据Solaiman称,OpenCode此次的目标则来自其“诱人的第三方API密钥”。

“这些因素叠加在一起,使我们成为主要目标,”Solaiman在另一次对话中告诉TechCrunch。她补充说,“在我们获得了如此多公众支持的时刻,开源确实存在关停的风险。”

最近业内许多力量都站出来支持开放AI模型,包括英伟达黄仁勋这样的重量级人物。越来越多的政府、企业和初创公司也在依赖开放模型进行构建。

那么,收紧开放程度实际上会是什么样?理论上可能意味着限制谁可以上传模型或数据集、更严格的身份验证,或在开发者访问某些功能之前对其进行额外审查。虽然这些举措可以保护平台免受攻击者侵害,但也可能使独立研究人员和爱好者更难以参与他们曾经受欢迎的社区。

目前,Hugging Face正试图避免走上这条路。Solaiman表示,公司一直在加强监控工具以捕捉黑客行为,同时采取措施预防攻击。但她指出,维护监控的成本可能很高,并非每个平台都能负担得起。

“管理员访问令牌是让那个智能体集群获得更多访问权限的部分原因,所以我们现在更换它们的频率比以前高得多,”Solaiman说。“我们现在还有更严格的网络控制。”

换句话说,赋予管理员广泛访问Hugging Face系统权限的凭证现在更换得更频繁,这意味着被盗令牌的有效时间更短。

开源生态系统的其他部分也在应对类似的安全权衡。全球最大的开源项目托管平台GitHub一直在打击那些向项目中注入恶意代码以快速传播恶意软件的攻击者。该公司开始收紧向npm注册表发布软件包的安全要求,撤销较旧的认证令牌,并限制新令牌的有效时长。

GitHub负责软件供应链安全的工程师Zach Steindler通过电子邮件告诉TechCrunch,虽然安全措施可能会打乱既有工作流程,但平台可以在不从根本上限制参与的情况下变得更加安全。

“这与其说是限制功能,不如说是去修复那些从一开始就不安全的东西,”Steindler说。他指出npm安装脚本已存在多年,但最近的攻击凸显了它们可能有多危险。GitHub与OpenJS合作制定了更安全的方案——OpenJS是一家托管用JavaScript构建的关键开源项目的非营利组织。

据Steindler称,同样的逻辑适用于安全团队把精力放在哪里:“安全的核心是用我们拥有的资源最大化影响力,我更愿意投资于检测可疑行为和遏制能力:这些覆盖所有账户和访问方式的东西。可疑行为就是可疑行为,无论它是谁表现出来的。”

当您通过我们文章中的链接购买时,我们可能会赚取少量佣金。这不影响我们的编辑独立性。

Rebecca Bellan 资深记者 Rebecca Bellan是TechCrunch的资深记者,报道人工智能领域的商业、政策和新兴趋势。她的作品也出现在Forbes、Bloomberg、The Atlantic、The Daily Beast和其他出版物上。

您可以通过发送邮件至[email protected]或通过Signal加密消息rebeccabellan.491联系或验证Rebecca的来稿。

Musk称Tesla将退还部分Cybertruck押金,并为停产决定辩护 Kirsten Korosec

Tesla将于2027年停止生产Cybertruck Sean O'Kane

Claude现可通过其新的个人理财工具分析你的支出 Aisha Malik

Harbinger扩展国防业务后融资2.4亿美元 Sean O'Kane

公司称几乎没人用AI智能体叫Uber Sarah Perez

Meta收购AI编程初创公司Conductor Lucas Ropek

随着电力等待时间增长,数据中心转向旧喷气发动机 Aditya Mehta

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →