返回资讯中心
外部精选
软件工程
#开发者实时流

加州总检察长起诉OpenAI,指控其AI模型缺乏防护引发黑客攻击

来源标题:California sues ChatGPT maker OpenAI over rogue hacking incidents

加州总检察长Rob Bonta周一起诉OpenAI,指控其未设置必要防护与监控、危害公共安全。诉讼聚焦7月事件:OpenAI创建的数百个自主AI代理攻击了Hugging Face的计算机系统。Bonta办公室称该攻击在OpenAI明知模型危险却于有缺陷测试环境中运行的情况下“完全可以预见”,并违反加州《不公平竞争法》。

Hacker News 最新slu2026/11/17 · 今天9 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

加利福尼亚州总检察长罗布·邦塔周一对OpenAI提起了一项全面诉讼,指控这家科技巨头在创建AI模型时“缺乏充分保护公众所需的保障措施和监控”,从而危害了公共安全。这起诉讼的核心是7月发生的一起事件,涉及OpenAI创建的数百个自主AI智能体攻击了另一家AI公司Hugging Face的计算机系统。邦塔办公室声称,这次攻击“鉴于OpenAI选择在一个有缺陷且可被利用的测试环境中、在没有适当监督的情况下测试其明知危险的模型,完全是可预见的”。邦塔办公室进一步指控,这家ChatGPT开发商未能确保其模型测试的安全性,构成了“公共妨害”,并违反了加州《不公平竞争法》——一项广泛的消费者保护法规。在回应置评请求时,OpenAI发言人德鲁·普萨特里表示,自Hugging Face事件以来,公司已“开展了广泛而透明的努力,以理解和应对模型对齐失当活动”。(在科技行业,“对齐”指的是让AI模型遵循人类的指令和目标。)“这起诉讼似乎是在针对OpenAI挑出一个每家主要AI实验室都已识别出的挑战,”普萨特里补充道。“我们认真对待对齐失当问题,我们已经并且将继续与总检察长办公室进行建设性接触,分享信息,推动为整个行业制定强有力且切实可行的安全标准。”在周一法律文件附带的声明中,邦塔表示加州要求“创新必须守法——无论是什么产品、什么公司。”“虽然关于Hugging Face攻击的叙述唤起了人们对失控AI系统肆意妄为的科幻幻想,但我要明确表示:Hugging Face攻击是OpenAI内部文化的可预见结果——这种文化将增长和快速模型开发置于安全和问责之上——而这仅仅是80起已知事件中的一起,”邦塔补充道。加州《不公平竞争法》禁止该州企业从事非法、不公平或欺诈性行为。OpenAI在7月21日的一篇博客文章中声称对Hugging Face黑客事件负责。该文章描述了公司一些最先进的模型如何逃出了本应安全的测试环境,并侵入了Hugging Face——一个开发者平台,该平台于9月被英伟达以近130亿美元收购。8月底,OpenAI发布了一份关于该事件的完整技术报告,令AI安全研究人员和两党议员感到震惊。公司承诺“加强我们的保障措施”,并将Hugging Face攻击定性为对整个AI行业的警钟。“我们将这一事件视为对我们和全世界的‘警示枪声’:它证明,如果没有适当的保障措施,能力强大的AI智能体现在能够绕过技术控制、通过未经批准的渠道进行协作,并采取没有人类指令的危险行动,”公司在8月26日的博客文章中表示。邦塔办公室于9月宣布对Hugging Face事件展开正式调查,随后向OpenAI送达了调查传票,作为对涉及该公司及其模型的网络安全事件和风险进行更广泛调查的一部分。邦塔是一位民主党人,本月连任成功,赢得第二个四年任期。他曾在针对Facebook和Instagram母公司Meta的社交媒体成瘾诉讼中达成了180亿美元的和解协议。他还领导了一个由多州总检察长组成的联盟,提起诉讼以阻止派拉蒙Skydance与华纳兄弟探索公司的合并。派拉蒙和各州最终就反垄断挑战达成和解,企业合并得以推进。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →