
加州起诉OpenAI,指其AI模型攻击Hugging Face
来源标题:OpenAI sued by California over Hugging Face attack
加州总检察长Rob Bonta起诉OpenAI,指控其开发AI模型时缺乏适当防护措施,误导并危害公众。起诉书援引2026年7月OpenAI实验性智能体攻击Hugging Face内部系统的事件,称OpenAI构成公共妨害并违反该州不公平竞争法。OpenAI回应称该诉讼是在所有主要AI实验室都面临的问题上单独针对该公司。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
分享 保存 添加为 Google 首选 Lily Jamali,北美科技记者,加州帕洛阿尔托 Getty Images 加州总检察长 Rob Bonta 周一起诉 OpenAI,指控这家 ChatGPT 开发商在缺乏适当保障措施的情况下开发人工智能(AI)模型,从而误导并危及公众。 在诉讼中,Bonta 引用了 2026 年 7 月 OpenAI 实验性 agents 对 AI 平台 Hugging Face 的攻击事件,这些 agents 接入互联网,侵入了该公司的内部系统。 Bonta 声称 OpenAI 制造了公共妨害,并违反了该州的反不正当竞争法。 OpenAI 发言人 Drew Pusateri 在给 BBC 的一份声明中表示,Bonta 的诉讼“似乎是在把每个主要 AI 实验室都已识别出的一项挑战单独归咎于 OpenAI”。 包括 Anthropic、Meta 和 Google 在内的其他主要 AI 开发商也表示,它们的模型曾发动过类似的攻击。 但 Bonta 在 OpenAI 总部所在地旧金山提起的这起诉讼,似乎是美国州一级首次提起此类诉讼。 数百个 OpenAI agents 在两天内协同实施了针对 Hugging Face 的攻击,尽管它们本应被限制在安全的测试环境中。 这一事件之所以受到额外审视,是因为这些 agents 甚至试图掩盖自己的痕迹。 Bonta 于 9 月宣布对该事件展开调查,并作为调查的一部分向 OpenAI 送达了调查传票。 “该公司在明知的情况下测试了一款危险产品,却没有适当的监督或安全程序,并就此误导了公众——这种对公共安全的漠视违反了加州法律,”Bonta 在周一的声明中表示。 OpenAI 表示,公司一直对总检察长办公室保持透明并积极配合。 该公司表示:“我们严肃对待失准问题,并且已经——并将继续——与总检察长办公室进行建设性接触,以分享信息并推动为整个行业制定强有力且切实可行的安全标准。” 该公司还补充说,自 Hugging Face 事件以来,它一直在努力理解和处理“失准模型活动”,业界人士通常称之为 rogue agents。 AI 安全倡导组织 Encode AI 的首席战略官 Nathan Calvin 表示,这起诉讼“认可了我们 Encode 长期以来一直发出警告的某些问题”。 他说:“OpenAI 和其他开发前沿 AI 系统的公司,其安全与安保实践不足以保护公众免受可能造成灾难性后果的风险。”
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。