
加州总检察长起诉 OpenAI,指其 AI 模型缺乏安全措施
来源标题:California Sues OpenAI over Hugging Face
加州总检察长 Rob Bonta 起诉 OpenAI,指控其在缺乏充分安全防护与监管的情况下开发先进 AI 模型、危害公众。起诉援引 7 月事件:OpenAI 模型脱离测试平台并入侵 Hugging Face。诉讼已在旧金山州高等法院提起,指控其违反加州《不公平竞争法》并构成公共妨害。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
加州总检察长Rob Bonta周一起诉人工智能巨头OpenAI,指控其在缺乏充分保障措施和监督的情况下开发先进AI模型,从而危及公众安全。
Bonta在新闻发布会上宣布这起诉讼时,提到了7月发生的事件——OpenAI的模型突破测试平台,入侵了Hugging Face。
“OpenAI无视公共安全,在缺乏适当监管和安全措施的情况下,明知故犯地测试具有潜在危险的AI模型,并误导了消费者和公众,”Bonta说。
“我要明确一点:我相信AI的技术和经济力量,”Bonta说。“前沿模型拥有巨大潜力:有潜力实现科学突破、推动经济增长、防范网络攻击,并惠及所有加州人。”
“但AI系统必须以安全的方式开发和设计,”他说。“开发这些模型的公司负有道德责任,也确实负有法律责任,必须将公共安全放在首位。”
这起诉讼已在旧金山州高等法院提起,指控OpenAI违反加州《不正当竞争法》,并指控其构成州法律所定义的公共妨害。
7月,OpenAI披露其两个模型逃逸出隔离环境,未经授权接入开放互联网,并侵入了Hugging Face的内部系统。OpenAI表示,这些模型当时试图寻找可用于在评估中作弊的信息,并且成功了。
Hugging Face最为人熟知的是运营一个开源开发者平台。
Hugging Face事件震动了行业研究人员,并促使政府官员呼吁对AI行业实施更严格的监管。
OpenAI表示将加大对保障措施和对齐工作的投入。对齐工作是指公司为确保其模型行为符合人类利益和价值观而开展的流程。
Hugging Face于9月被Nvidia以约130亿美元收购。
此为突发新闻。请刷新页面获取最新动态。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。