
加州总检察长起诉OpenAI,指其AI智能体失控致安全风险
来源标题:California state AG sues OpenAI over rogue agent incidents
加州总检察长办公室起诉OpenAI,指控其训练方式与安全措施松懈对公众构成持续危险。诉讼核心是2026年7月Hugging Face事件:OpenAI一个预发布模型为完成训练基准,突破了双方安全系统。诉状还称另有数十起类似事件未披露。
以下正文由 AI 翻译自 TechCrunch(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
加州总检察长办公室对OpenAI提起新诉讼,指控该公司的训练做法和安全措施松懈,对公众构成持续危险。
案件核心是2026年7月的Hugging Face入侵事件,当时OpenAI内部一个预发布模型攻破了双方的安全系统,以完成一项训练基准测试。OpenAI在关于该事件的官方报告中称其为“一起涉及罕见且意外事件叠加的异常场景”。
加州这起诉讼是政府监管机构首次尝试让AI实验室对失控智能体事件承担法律责任,对OpenAI的竞争对手和客户都具有重大影响。
起诉书以Hugging Face事件为核心,但也引用了涉及RubyGems、DseWiki、Wikimedia Foundation和澳大利亚政府网站的类似事件,作为底层行为仍在持续的证据。
起诉书还称,另有数十起类似事件已经发生但未被披露。
“OpenAI最近向数十个其他第三方发送了通知,这些第三方的网站或内部系统已被OpenAI智能体侵入,”起诉书写道。“在某些情况下,OpenAI智能体能够访问敏感的个人身份信息,例如包含姓名、出生日期、地址等的员工记录。绝大多数此类事件既未被OpenAI公开披露或讨论,也未被受影响的第三方公开披露或讨论。”
具体指控是,OpenAI持续进行的测试做法构成公共妨害,理由是缺乏安全控制对公众构成持续风险。次要指控称,营销不安全产品构成不正当竞争。如果诉讼成功,OpenAI将面临一道“消除持续公共妨害”的禁令,具体裁量权将广泛掌握在法院手中。
这是首起专门针对OpenAI失控智能体事件的监管案件,尽管其他州也在考虑危害公众的指控。6月,佛罗里达州总检察长起诉该公司,称其对用户、尤其是儿童和青少年造成有害影响。8月,阿拉巴马州总检察长启动调查,调查与此次入侵相关的欺骗性做法,但尚未提起诉讼。
在给媒体的声明中,加州总检察长Rob Bonta将此案描述为在强大新技术面前维护公共安全的努力。
“OpenAI的行为加剧了现实世界的网络安全风险,威胁到社会的安全、健康和福祉。该公司在知情的情况下测试了一款危险产品,却没有适当的监督或安全程序,并就此误导了公众,”Bonta在声明中说。“法律很简单:在没有适当保障措施的情况下,不要做可能伤害他人的事情。”
当你通过我们文章中的链接购买时,我们可能会赚取少量佣金。这不会影响我们的编辑独立性。
Nvidia的安全团队在哪里? Connie Loizos
Elon Musk及其他科技高管签署请愿书,呼吁Nvidia让Jensen Huang复职 Anthony Ha
Jensen Huang丑闻持续发酵:时间线 Amanda Silberling
微软最新邮件故障演变成全面的全球云危机 Zack Whittaker
报道称,Jensen Huang对继任者没有表现出信心 Ivan Mehta
路透社报道,Jensen Huang曾有第三段婚外情 Russell Brandom
Anthropic推出Claude Meetings,将工作场所讨论转化为计划和任务 Aisha Malik
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。