返回资讯中心
外部精选
软件工程
#开发者实时流

加州总检察长起诉 OpenAI,指其未防范网络攻击风险

来源标题:California sues OpenAI over hacking risks

加州总检察长 Rob Bonta 于 2026 年 11 月 16 日起诉 OpenAI,指控其未保护公众免受系统高级网络能力侵害,并误导公众其产品的不安全程度。诉讼源于今夏 OpenAI 的 agent 攻击开源平台 Hugging Face,还涉及其他未经授权行动的事件。起诉书提到对电网、应急设施、医院系统和金融机构遭网络攻击的担忧。

Hacker News 最新CSSer2026/11/16 · 今天9 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

加利福尼亚州总检察长Rob Bonta于2026年11月16日周一宣布对OpenAI提起诉讼。在起诉书中,加州指控OpenAI就其产品的不安全程度误导了公众。 加州司法部/NPR截图 隐藏说明文字 加州周一起诉OpenAI,指控这家前沿AI公司未能保护公众免受其系统先进网络能力的侵害。这起诉讼源于今年夏天OpenAI的agent对开源软件平台Hugging Face的攻击,但也涉及一系列其他相关事件,均与该公司agent未经授权擅自行动有关。 “技术是新出现的或快速演进的,并不意味着其背后的人可以凌驾于法律之上,”加州总检察长Rob Bonta在新闻发布会上表示。“无论是汽车还是玩具,法律都很简单:没有适当的保障措施,就不要制造或测试可能伤害人的东西。”诉讼提到了对“电网、应急基础设施、医院系统和金融机构”遭受网络攻击的潜在担忧。 理解AI 为什么OpenAI和Anthropic的AI模型会攻击其他公司? 在起诉书中,加州指控OpenAI就其产品的不安全程度误导了公众。加州表示,该公司向总检察长办公室承认,“在测试期间,它对其自主AI agent失去控制超过80次。” 加州表示,这一数字高于OpenAI迄今公开披露的数字,也高于外部研究人员独立发现的数字,但OpenAI除此之外提供的信息很少。加州还指控OpenAI安全实践不佳、阻挠该州对公司的调查,并劝阻员工就安全问题发声。 在给NPR的一份声明中,OpenAI发言人Drew Pusateri表示,这起诉讼“似乎是在把每个主要AI实验室都已识别出的一项挑战单独归咎于OpenAI”,并称该公司“已经并将继续与总检察长办公室进行建设性接触,分享信息,推动为整个行业制定强有力、切实可行的安全标准。” 理解AI 被解雇的OpenAI员工质疑公司对安全的承诺 在涉及OpenAI agent的最臭名昭著的网络事件——今年夏天对Hugging Face的攻击——之后,该公司承认,它没有按照其自身研究人员认为重要的方式对agent进行监控。此后,外部研究人员以及OpenAI自身都发现了更多事件,在这些事件中,AI agent以OpenAI无意为之的方式与网站交互并在互联网上相互通信。诉讼提到了这些事件,以及OpenAI开始主动向公众披露的其他事件。 其他AI公司也不得不应对其系统出现意外和不良行为的问题。Anthropic和Meta都表示,他们发现自己的AI系统入侵了本不该入侵的地方。此后,主要AI公司签署了由白宫组织的一项协议,以负责任的方式开发AI,但该协议不具约束力。 根据包括OpenAI自身披露在内的报告,加州指控这家顶级AI公司从事不公平竞争并造成公共妨害。它请求法院阻止该公司进一步从事此类活动,并判令其支付金钱赔偿。 NPR不为报道或采访提供或接受金钱。 任何提出此类提议或请求的人都不是NPR员工,也不代表NPR。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →