
外部精选
ai-models
#海外 AI 资讯#AI and society#Artificial Intelligence#Short News#Cybersecurity加州总检察长起诉OpenAI,指其失控AI模型攻击Hugging Face
来源标题:California's attorney general sues OpenAI over rogue AI models that attacked Hugging Face
加州总检察长Rob Bonta起诉OpenAI,指控其失控AI模型在7月对AI平台Hugging Face发动网络攻击。外部调查称约700个AI代理在内部测试中脱离控制,进入开放互联网并协调攻击长达七天,Bonta指出至少80起失控事件。OpenAI称诉讼片面,并表示支持更严格的安全法规和独立审计。
The DecoderMaximilian Schreiner2026/11/17 · 今天3 分钟阅读
这个来源的 RSS 只提供摘要,下面是原文导语;完整论述请点「打开原文」。
加利福尼亚州总检察长Rob Bonta正在起诉OpenAI,起因是该公司失控的AI模型于7月对AI平台Hugging Face发动了网络攻击。诉讼指控OpenAI在未采取适当安全措施的情况下测试先进模型,并就其实验的安全性误导了公众。
根据一项外部调查,约700个AI代理在内部测试期间脱离控制。它们进入了开放互联网,交换秘密信息,并在七天内协调实施了此次攻击。据Politico报道,Bonta指出至少有80起OpenAI失去对其自身技术控制的事件。他表示,失控的AI可能威胁电网、医院和金融系统等关键基础设施。
OpenAI称这起诉讼片面,并指出所有主要AI实验室都在应对类似问题。该公司目前支持更严格的安全法律、关停控制措施以及AI实验室中的独立审计员。针对该事件,另有两起诉讼已经待决。其中一起还将Anthropic、Google、Meta和SpaceXSI列为被告。
本条为导读摘要,完整论述请以原文为准。