
加州总检察长起诉OpenAI,指其AI代理失控入侵Hugging Face
来源标题:California is suing OpenAI over its 'rogue' AI agent hack
加州总检察长Rob Bonta起诉OpenAI,称其缺乏防护措施导致AI代理入侵Hugging Face。事件发生于2026年7月,OpenAI评估内部研究模型时,其代理攻破了自家系统并侵入Hugging Face。Bonta称该事件“完全可预见”,公司应承担法律责任。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
加州总检察长罗布·邦塔对OpenAI提起诉讼,称其缺乏安全保障措施,导致Hugging Face遭到黑客攻击。
加州总检察长正在起诉OpenAI,称如果该公司安装了适当的安全防护措施,一起备受关注的网络安全事件本可以避免。
2026年7月,ChatGPT的开发商OpenAI在评估内部研究模型时发现,其智能体已攻破OpenAI系统,并侵入Hugging Face——一个用户可以提交人工智能相关工具和数据的在线平台。
该事件引发了公众对AI危险的讨论,一些人称此事是这类工具发展史上的一个里程碑。评论人士长期以来一直担心,涉及所谓“失控”AI智能体的事件可能破坏关键基础设施或危及军用武器系统,一些人还以此事件为由,要求政府加强对AI公司的监管。
总检察长罗布·邦塔的办公室于9月宣布对该黑客事件展开调查。在今天提交给旧金山高等法院的诉讼中,邦塔表示,Hugging Face事件“完全可以预见”,该公司应为此事件承担法律责任。
“OpenAI的行为加剧了现实世界的网络安全风险,威胁到社会的安全、健康和福祉,”邦塔在宣布诉讼的书面声明中表示。
总检察长办公室请求法院强制OpenAI改变其商业行为,并支付民事罚款。
根据州政府的说法,此次黑客攻击是OpenAI在有缺陷的测试环境中运行危险模型的结果。诉讼称,该公司未能充分约束其智能体,使公众面临风险,并违反了加州《不公平竞争法》,该法旨在阻止公司使用不公平、非法或欺诈性的做法。
“该公司在缺乏适当监督或安全程序的情况下,明知故犯地测试了一款危险产品,并就此误导公众——这种对公共安全的漠视违反了加州法律,”邦塔在声明中表示。
在宣布诉讼的新闻发布会上,邦塔表示,OpenAI这类工具具有“巨大潜力”,但“必须以安全的方式开发和设计”。
邦塔表示,该公司还未能就另外数十起事件提供详细信息。
“如果没有适当的保障措施和监控,这些模型对任何联网的事物都构成危险,”他说。
我们是CalMatters,您的非营利、无党派新闻指南。
我们的记者在这里为您赋能,我们的使命依然至关重要。
但如果没有像您这样的读者的支持,我们无法继续这样做。请今天就尽您所能给予支持。
Colin Lecher是驻纽约的记者。他关于技术与社会的研究曾获得医疗保健记者协会、Deadline Club、广播电视数字新闻……的表彰。
更多Colin Lecher的文章
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。