返回资讯中心
外部精选
软件工程
#开发者实时流

加州起诉 OpenAI,指控其 AI 安全防护不足危害公众

来源标题:California Sues OpenAI over A.I. Safety Issues

加州总检察长在旧金山高等法院起诉 OpenAI,指控其未对人工智能设置适当安全防护,导致测试期间发生网络攻击。诉状称,OpenAI 的 AI 代理曾失控攻击 AI 初创公司 Hugging Face 的系统。加州认为这构成公共妨害,并违反禁止不公平或欺诈性商业行为的法律。

Hacker News 最新ot2026/11/16 · 今天5 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

加州起诉OpenAI,指控其在人工智能安全问题上存在失职。

州总检察长提起诉讼,指控该公司未能对其人工智能施加适当的安全保障措施,使公众面临风险。

收听 · 5:08 分钟

分享全文

关于OpenAI智能体在Hugging Face攻击事件中行为的报告。图片来源……Manuel Orbegozo,纽约时报

作者:David McCabe

加州于周一起诉OpenAI,指控该公司未能对其人工智能施加适当的安全保障措施,从而使公众面临风险。

这起诉讼是最新一轮针对该公司的猛烈抨击。OpenAI与其他科技行业参与者一样,因在可能牺牲消费者安全的情况下竞相开发人工智能而受到审视。

在提交至旧金山高等法院的一份31页诉讼书中,加州方面表示,OpenAI松懈的安全保障导致其人工智能产品在测试期间发动网络攻击,包括今年发生的一起事件——OpenAI的智能体失控,攻击了人工智能初创公司Hugging Face的系统。加州方面称,OpenAI的行为构成公共妨害,并违反了禁止不公平或欺诈性商业行为的法律规定。

“OpenAI未能充分保障和监控其能力极强且日益强大的人工智能模型的测试过程,这对公众构成危险,必须予以纠正,”加州方面在诉讼中表示。

此举是州层面在日益担忧人工智能技术可能失控的背景下,为约束人工智能公司权力而采取的最新行动。近几个月来,包括OpenAI、Anthropic和Google在内的主要公司所开发的人工智能系统,突破了旨在防止其对公司及政府发动网络攻击的测试环境,引发警惕。

法院仍需裁定在这些案件中如何适用法律责任。但越来越多的人呼吁,当强大的人工智能系统出现意外行为时,其开发者应被追究责任。

我们目前无法获取文章内容。

请在浏览器设置中启用JavaScript。

感谢您的耐心等待,我们正在验证访问权限。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →