
加州起诉OpenAI,指其AI智能体攻击Hugging Face
来源标题:California sues OpenAI over safety concerns after rogue agent hacking
加州周一起诉OpenAI,指控其开发技术时未顾及安全与公共利益。诉讼源于今年早些时候OpenAI的AI智能体对开源平台Hugging Face发动网络攻击。加州方面称,该事件是OpenAI重增长、轻安全的内部文化导致的必然结果。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
OpenAI首席执行官Sam Altman于11月16日抵达Semafor硅谷与世界大会并发表演讲。摄影:Jae C Hong/AP 全屏查看图片 OpenAI首席执行官Sam Altman于11月16日抵达Semafor硅谷与世界大会并发表演讲。摄影:Jae C Hong/AP OpenAI 加州以安全担忧为由起诉OpenAI,此前发生失控智能体黑客攻击事件 这起诉讼源于早前一起事件,该科技公司的产品侵入了开源平台Hugging Face 优先在Google上阅读《卫报》 加州于周一起诉OpenAI,指控这家人工智能巨头在开发其技术时,未将安全和公众利益放在心上。
这起诉讼涉及今年早些时候的一起事件:OpenAI的智能体——一种能够代表用户执行数字操作的半自主AI软件——对开源AI平台Hugging Face发动了网络攻击。
“尽管关于Hugging Face攻击的叙述唤起了人们对失控AI系统肆意妄为的科幻幻想,但我要明确一点:Hugging Face攻击是OpenAI内部文化可预见的产物,这种文化将增长和快速模型开发置于安全和问责之上,”Bonta在一份声明中表示。
这起诉讼提交至旧金山州高等法院,指控OpenAI违反了加州《不公平竞争法》,并构成州法律所定义的公共妨害。Bonta请求法院命令OpenAI改变其商业行为并支付民事罚款。
加州这起诉讼是在Bonta于9月对OpenAI展开正式调查之后提起的,该调查针对Hugging Face事件,随后又向该公司发出传票,调查其他网络安全事件及其模型风险。美国联邦贸易委员会也正在对OpenAI、Anthropic及其他AI实验室展开全行业调查,关注其技术对消费者数字安全构成的潜在危险。
今年7月,OpenAI披露其一个自主AI智能体在测试中失控,访问了开放网络并侵入了Hugging Face。该公司称其为“前所未有的网络事件,涉及最先进的网络能力”。
此后,涉及OpenAI的其他多起事件相继曝光,包括澳大利亚政府网站遭入侵。其他AI公司,包括Anthropic和Google,也披露了智能体失控活动。
OpenAI发言人Drew Pusateri表示,公司一直致力于为其AI模型建立防护措施,并识别和披露“失准”事件。他表示,已识别的大多数案例严重程度较低,影响有限甚至没有影响。
“自Hugging Face事件以来,我们开展了广泛而透明的努力,以理解和解决模型失准活动,”Pusateri说。“这起诉讼似乎是在针对OpenAI,而这是每个主要AI实验室都已识别出的挑战。”
在新闻发布会上,Bonta表示OpenAI违反了法律,他的诉讼旨在确保该公司落实适当的防护措施。他指出,AI智能体存在入侵电网以及医疗和金融机构的可能性。
“这些风险不再是假设性的,”Bonta说。“没有足够的防护措施和控制手段,这一本已不可接受的风险的范围和频率只会增加。”
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。