返回资讯中心
外部精选
行业深度
#科技与社会#Security#Security / Security News

Google为测试Chrome AI智能体搭建巨型“镜像维度”内部互联网

来源标题:Google Built a Giant ‘Mirror Dimension’ Internet to Test Its Chrome AI Agents

Google首次披露其Chrome团队搭建的“镜像维度”隔离网络生态,用于训练和测试AI浏览智能体。该环境包含社交媒体、购物、银行仪表盘等大量仿真实网站,并内置提示注入攻击等防御测试,避免智能体在开放互联网上失控或产生“评估感知”。

WiredLily Hay Newman2026/11/19 · 今天9 分钟阅读

以下正文由 AI 翻译自 Wired(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

“Web-use” agent 需要熟悉开放的互联网、懂得如何在真实网站和平台上导航,以及如何抵御网络攻击。因此,在有限的测试环境中训练它们效果有限。此外,模型还可能产生所谓的“评估感知”——它们会因为判断自己处于测试或模拟环境中而表现出不同的行为。另一方面,把未经打磨的 agent 直接放到开放互联网上也是个坏主意。于是,这个“平行宇宙互联网”就派上了用场。

Google 今天在一篇博客文章中首次详细披露的“Mirror Dimension”,是一个覆盖面广泛、多样但隔离的 web 生态系统,完全由 Chrome 团队掌控。它包含大量网站和平台——包括社交媒体、购物和银行仪表盘——这些站点按照真实网站的所有组件和属性构建。浏览助手 agent 必须像在真实互联网上一样,在 Chrome 中与这些站点交互并完成任务。它们在这个过程中还会面临韧性测试,比如隐藏的提示注入攻击,以检验其防御能力。

“Agent 不是编程出来的,所以你无法预测 agent 可能看到的每一件事,我们必须覆盖的探索空间极其巨大,而 web 是充满敌意的,”Chrome AI 安全团队的软件工程师 Charles Qian 说。“任何用户都可以在任何网站上提出任何 prompt,所以我们确实需要尽可能彻底地探索这个空间。我们已经看到,agent 开始发展出成熟的判断力,能够判断一项任务实际需要什么信息,以及何时该把问题抛回给用户请求确认。”

构建并填充 Mirror Dimension 本身就是一项挑战,因为它需要足够庞大和多样,以代表真实 web 的规模,同时还要快速开发出来。为了构建它,Chrome 团队集结了大批网站和 web 应用开发 agent,由一个专门构建的 AI harness 引导,快速创建逼真的 web 服务和数据流——细致到在购物网站输入优惠码或填充社交媒体页面这样的细节。

尽管整个环境由 Google 控制,但 Chrome 内置了大量用户保护和有效性检查,因此为了让 agent 能够使用真实的 Chrome(这对准确训练至关重要),研究人员实际上不得不“黑入”浏览器,并采取精心设计的步骤,比如为有效性检查伪造 web 证书,好让 agent 获得正常的体验。不过团队强调,这些攻击都不可能针对开放互联网上的普通 Chrome 用户实施。它们全都得益于团队因控制整个环境和网络而天然拥有的“上帝模式”式访问权限和特权。

研究人员表示,尽管他们一直在测试的浏览助手 agent 极其良性、不具备网络攻击能力,但他们的目标是让 Mirror Dimension 向 Google 内部各团队开放,让更多研究人员能够使用这个安全可控的环境进行测试。

“我们分享这种方法,是为了让内部和外部的其他团队也考虑这样做,”Google 工程总监 Doug Turner 说。“这是第一步,未来还会持续投资于这种训练模型的方法。我想随着它们变得越来越复杂,我们将不得不继续改进这个环境,让它越来越逼真。”

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →