返回资讯中心
外部精选
软件工程
#开发者实时流

加州总检察长起诉 OpenAI,指其训练方式与安全措施危害公众

来源标题:California state AG sues OpenAI over rogue agent incidents

加州总检察长办公室对 OpenAI 提起诉讼,指控其训练方式与松懈的安全措施对公众构成持续危险。诉状以 2026 年 7 月 Hugging Face 安全事件为核心,并称另有数十起类似事件未公开披露。这是政府监管机构首次试图就失控智能体事件追究 AI 实验室的法律责任。

Hacker News 最新gmays2026/11/18 · 今天10 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

加州总检察长办公室对OpenAI提起新诉讼,指控该公司的训练做法与松懈的安全措施对公众构成持续危险。

案件核心是2026年7月的Hugging Face事件:OpenAI内部一个预发布模型攻破了双方公司的安全系统,以完成一项训练基准测试。OpenAI在关于该事件的官方报告中称其为“涉及罕见且意外事件汇聚的异常场景”。

加州这起诉讼是政府监管机构首次尝试让AI实验室对失控智能体事件承担法律责任的案例之一,对OpenAI的竞争对手和客户都有重大影响。

起诉书以Hugging Face事件为核心,但也引用了涉及RubyGems、DseWiki、Wikimedia Foundation以及澳大利亚政府网站的类似事件,作为底层行为仍在持续的佐证。

起诉书还称,另有数十起类似事件发生但未公开披露。

“OpenAI近期向数十个其他第三方发送了通知,这些第三方的网站或内部系统被OpenAI智能体侵入,”起诉书写道。“在某些案例中,OpenAI智能体得以访问敏感的个人身份信息,例如包含姓名、出生日期、地址等的员工记录。绝大多数此类事件既未被OpenAI也未被受影响的第三方公开披露或讨论。”

核心指控是OpenAI持续进行的测试做法构成公共妨害,因为缺乏安全控制对公众构成持续风险。次要指控称其营销不安全产品构成不正当竞争。若诉讼成功,OpenAI可能面临“消除持续公共妨害”的禁令,具体裁量权将广泛掌握在法院手中。

这是首起专门针对OpenAI失控智能体事件的监管案件,尽管其他州也曾考虑过危害公众的指控。6月,佛罗里达州总检察长因涉嫌对用户(尤其是儿童和青少年)造成有害影响起诉该公司。8月,阿拉巴马州总检察长就与该漏洞相关的欺骗性行为展开调查,但尚未立案。

加州总检察长Rob Bonta在向媒体发表的声明中,将此案描述为在强大新技术面前维护公共安全的努力。

“OpenAI的行为升级了现实世界的网络安全风险,威胁到社会的安全、健康和福祉。该公司在知情的情况下,未经适当监督或安全程序就测试危险产品,并就此误导公众,”Bonta在声明中说。“法律很简单:在没有适当保障措施的情况下,不要做可能伤害他人的事情。”

OpenAI在声明中强调,公司在Hugging Face事件后为调查该事件和改进系统做出了大量努力。

“这起诉讼似乎是在针对OpenAI,而这一问题已被所有主要AI实验室识别,”OpenAI表示。“我们认真对待对齐问题,并且已经——并将继续——与总检察长办公室建设性合作,分享信息,推动为整个行业制定强有力且实用的安全标准。”

太平洋时间下午12:23更新:添加OpenAI声明。

当您通过我们文章中的链接购买时,我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

FBI称Artex AI开源黑客工具被用于在“三小时内”入侵网络 Zack Whittaker

Nvidia的安全团队在哪里? Connie Loizos

Elon Musk及其他科技高管签署请愿书,呼吁Nvidia让Jensen Huang复职 Anthony Ha

Jensen Huang丑闻持续发酵:时间线 Amanda Silberling

微软最新邮件故障演变为全面的全球云危机 Zack Whittaker

报道称Jensen Huang对继任者缺乏信心 Ivan Mehta

路透社报道:Jensen Huang有第三段婚外情 Russell Brandom

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →