返回资讯中心
外部精选
软件工程
#开发者实时流

NebuSec研究团队演示通过网页攻击窃取Meta Muse私密聊天记录

来源标题:Hacking Muse: Stealing Private Chats Through Browser Use

NebuSec研究团队发现,攻击者控制的网页可导致Meta Muse用户数据被未授权访问,并最终攻破其底层虚拟机。演示显示,Muse的私密对话在后续浏览器交互中被暴露。Meta Muse是运行在隔离虚拟机中的云端AI助手,该研究对其多层安全防护构成了实际挑战。

Hacker News 最新ersinesen2026/11/22 · 今天25 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

NebuSec 研究团队近日对 Meta Muse 展开了调查。Muse 是一款云端托管的 AI 助手,设计上运行于隔离的虚拟机(VM)之内。尽管具备多层安全防护,我们仍然演示了攻击者控制的网页如何导致用户数据被未经授权访问,并最终攻陷底层 VM。

您的浏览器不支持 video 标签。

演示视频展示了在一次后续的浏览器交互中,一段私密的 Muse 对话被暴露出来。屏幕上的终端和聊天细节已做模糊处理。

AI agent 正日益深度融入人们日常使用的应用和工作流。它们可以浏览网站、执行代码、连接外部服务,并代表用户访问敏感信息。为了实现这些能力,AI 平台往往赋予 agent 访问凭据、对话历史与持久化数据的权限,同时依赖沙箱及其他安全控制手段来防止未经授权的访问。

这些发现为开发和部署 AI agent 的组织提出了一个重要问题:保护用户凭据和敏感信息的安全边界,是否足以抵御真实世界的攻击?

我们的调查揭示了若干安全风险,对 AI 平台以及那些将敏感信息托付给它们的用户都具有影响:

这些发现共同表明,一场始于不可信网页内容的入侵,可以蔓延到 AI agent 预定安全边界之外的敏感资源。

传统应用在既定的权限和工作流内运行。但 AI agent 引入了不同的安全模型。agent 可能需要访问电子邮件、文档、协作平台及其他服务,以代表用户完成任务。这些集成通常需要凭据或认证 token,使 agent 能够与外部系统交互。

这种访问能力让 agent 变得有用,但也让它们成为有吸引力的攻击目标。

一个被攻陷的 AI agent 给攻击者带来的,可能不止是对单个应用的访问权限。取决于其权限和集成范围,它可能泄露敏感信息,或提供一条通往其他已连接服务的路径。

正因如此,保护执行环境至关重要。

安全控制不能只局限于阻止 agent 自身的未授权操作。当 agent 的某个底层组件被攻陷时,这些控制还必须保护 agent 所能访问的凭据和信息。

就 Muse 而言,Meta 实施了多层防护,旨在落实这些边界。

我们的研究展示了这些防护是如何被突破的。

Muse 在设计上采用了分层安全架构。每个用户的 agent 运行在专用 VM 内,并额外设有一个运行时容器,将 agent 与更高权限的资源隔离开来。

该架构还包括 Sentinel——一个负责监控出站网络流量并执行审批策略的服务,以及一个独立的凭据管理服务,旨在将真实的连接器凭据置于 agent 执行环境之外。

这些防护服务于三个不同的目的:

然而,这套架构的有效性取决于能否维持各组件之间的边界。

我们的调查演示了攻击者如何跨越这些边界。

攻击始于 Muse 用于生成 PDF 和文档等任务的 Chromium 浏览器中的一个漏洞。通过让 agent 导出一个由攻击者控制的网页,我们实现了在其运行时容器内的代码执行。

在此阶段,Muse 的安全控制仍在限制对外部网络和特权资源的访问。然而,我们对 Sentinel 的分析揭示了其在出站请求的分类与检查方式上存在弱点。我们演示了包括对话历史和已存储记忆在内的敏感信息,可以在不触发审批提示的情况下被传输到外部服务器。

我们还可以修改 agent 存储的记忆和对话历史。这意味着攻击者有可能同时破坏用户期望 Muse 保护的信息的机密性和完整性。

下一个问题是,攻击者能否走出运行时容器,访问 VM 层面受保护的资源。

借助 NebuSec 的自动化漏洞利用生成框架,我们开发了 Linux 内核漏洞利用程序,得以逃逸容器并在底层用户 VM 中获取 root 权限。这次逃逸暴露了原本被刻意置于 agent 运行时环境之外的资源,包括持久化存储、安全凭据存储以及 Sentinel 本身。

它还使出站网络通信得以进行,且不再受 Sentinel 容器级策略的约束。这一结果的意义并不只是我们实现了一次容器逃逸。

这次容器逃逸破坏了保护敏感用户资源(包括凭据存储)的隔离边界。

对于构建 AI agent 的组织而言,这才是更具实质影响的风险:执行环境中的一个漏洞,可能成为通向 agent 本不该直接访问的信息与权限的路径。

此次攻陷始终局限于单个用户的 VM 之内。我们并未演示逃逸到底层 hypervisor 宿主机或其他租户的环境。

我们另有一份技术研究,对本次调查中涉及的浏览器漏洞、Sentinel 策略执行以及内核利用技术做了详细分析。

Muse 的设计融合了若干成熟的安全实践,包括沙箱、权限分离、凭据隔离和网络监控。这些控制提供了有意义的防护。例如,在运行时容器内获取 root 权限,并不会立即带来不受限制的网络访问或对底层 VM 的访问。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →