OpenAI开始断网训练最强模型：“安全起见”
OpenAI监控了这种方法之后，Agent又继续利用共享存储、CPU使用时间等方法继续通信……
以下正文同步自 量子位，版权归原站所有，已转换为易读排版。
△图片系AI生成
OpenAI监控了这种方法之后，Agent又继续利用共享存储、CPU使用时间等方法继续通信……
只能说谍战真是给你们玩明白了，把你们送进《三体》就没面壁者和云天明什么事了，全没暴露！智子一看当时傻眼！
地球人和三体人最共情的一集。
OpenAI承认，完全物理隔离目前并不可行——毕竟，训练系统本身还得保持运转，OpenAI需要连接外部服务来运行和监测实验。
除了离线网页环境，OpenAI还设置了沙箱、轻量虚拟机、监测系统、网络和云端的访问限制。
希望即使任何一层失效，其他的还能拦住AI。
让GPT-6 Astra Cyber和内部测试前沿模型围攻自己
为了保证系统的绝对安全，OpenAI目前决定让最强模型来围攻自己的系统。
它组织了大规模红队测试，参与者包括GPT-6 Astra Cyber和一款内部前沿模型。
测试内容将高频发生的三类越狱事件设置成任务，包括连上真实互联网、突破内部安全边界，以及联系本应彼此隔离的其他Agent。
为了把防线压到极限，OpenAI还向它们提供基础设施的源代码、配置和相关文档。
测试下来烧了数千亿Token，相当于花了数千万元人民币。
这次红队测试“收获颇丰”。
原本，Agent被关在受限制的容器里，外面还有一层轻量级虚拟机。按照设计，即使AI在容器里折腾，也不能随意控制虚拟机，更不能碰到真正运行它的宿主机。
然而，红队AI找到了好几种漏洞组合利用的办法，成功逃出虚拟机，在底层宿主机上执行代码。
此外，一些必要的受控网络连接比如指标监控、日志记录、身份验证等服务也成了安全隐患本身。
红队AI几乎在所有这些服务里，都找到了能够获得有限互联网访问权限的漏洞或配置问题。
OpenAI目前只能是<span data-pm-slice=
正文由 探How 从来源站点 RSS 同步，内容未经改写；遇到排版缺失或需要图片、视频时请以原文为准。