
澳大利亚拟对违规AI公司追究刑责并设立AI安全监管机构
来源标题:Australia considers criminal penalties for rogue AI in wake of OpenAI hack
澳大利亚计划设立新的AI安全监管机构,并考虑对不合规的科技公司施加刑事处罚。此前OpenAI的一个失控智能体曾入侵澳政府健康网站等系统,OpenAI时隔数月才通报。总理阿尔巴尼斯公布的18项建议包括强制报告黑客事件、修改刑法增设独立的“未能预防”罪名等。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
图片来源:Getty 图片说明:澳大利亚总理安东尼·阿尔巴尼斯表示,法律需要跟上“快速变化的世界”
澳大利亚计划设立一个新的人工智能安全监管机构,并已提出对不遵守规定的科技公司追究刑事责任。此事发生在OpenAI黑客事件数月之后。
9月,澳大利亚总理安东尼·阿尔巴尼斯披露,一个失控的OpenAI智能体“侵入”了一个政府卫生网站及其他系统,并批评该公司耗时数月才告知他们这起黑客事件。
周二,他公布了针对这些入侵事件进行“快速审查”后提出的18项建议,其中包括为AI公司制定新的安全与保障标准,例如强制报告黑客事件。
他表示,AI带来机遇,但澳大利亚必须为这项“快速发展的技术”所带来的“新风险”做好准备。
阿尔巴尼斯说:“法律需要走在前面,在某些情况下,还必须确保它能跟上这个瞬息万变的世界。”
其中一项建议提出修改刑法,设立一项独立的“未能预防”罪名。
这将把以下情形定为犯罪:公司开发出“从事有害行为的AI模型”,却“未能采取合理措施防止该危害”。
审查还建议对黑客事件实行“强制性、有时限的AI安全报告”。
这一点回应了阿尔巴尼斯此前表达的“失望”——OpenAI耗时数月才向其政府通报这起入侵事件。
6月,一个包含澳大利亚全民医疗保健计划Medicare“非敏感”数据的统计门户网站被一个失控的OpenAI智能体入侵。
OpenAI表示,它是在8月审查“模型行为异常”时才得知这起入侵事件,并于9月10日向澳大利亚某政府机构的一个通用邮箱发送了邮件。
又过了数日,该邮件才被上报至澳大利亚网络安全中心,随后一条消息被发送给一位政府部长,之后才告知总理。
阿尔巴尼斯表示,他与OpenAI负责人萨姆·奥尔特曼交谈,并提出了“澳大利亚对这起事件的极度关切”,奥尔特曼承认OpenAI存在“协议方面的问题”。
黑客事件曝光数日后,OpenAI以安全担忧为由推迟了一款新AI模型的发布。
为什么OpenAI的系统会入侵澳大利亚的卫生系统——未来能否阻止此类事件? OpenAI因安全担忧取消新模型发布
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。