
研究称AI编码代理缺乏Ring 0级权限防护,建议先暂存操作再审核
来源标题:The Missing Ring-0 Protections for AI Agents
南开大学与清华大学2026年的研究测试Claude Code、OpenAI code CLI和Gemini CLI后指出,这些编码代理实际上以Ring 0级权限运行,模型决定什么计算机就执行什么,中间没有独立检查。研究认为缺失的是参考监视器,且对编码代理而言只有当操作效果先被暂存时才可行。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
No. 07 · 2026年10月30日 · 更新于2026年10月30日 · 安全 · AI
编程 agent 会读取不可信文本,并以开发者的权限行事,而中间没有任何它无法篡改的东西把关。缺失的一环是引用监视器(reference monitor),而对编程 agent 来说,只有当副作用先被暂存(staged)时,这种机制才真正可行。
如果你不熟悉这个领域,这里是简要版本。
编程 agent 是一种在程序员电脑上工作的 AI 程序:它读取文件和网页、编辑代码并运行命令。三个例子是 Anthropic 的 Claude Code、OpenAI 的 code CLI 和 Google 的 Gemini CLI。它们以程序员本人的权限行事,而它们读到的一切都可能左右它们的行为,包括陌生人特意留下、等着它们发现的文本。这被称为提示注入(prompt injection)。
Ring 0 是计算机处理器中权限最高的模式,操作系统的核心在此运行,其上没有任何东西能否决它。南开大学与清华大学 2026 年的一项研究测试了上述三款产品,认为今天的 agent 实际上就在 ring 0 上行动:模型决定什么,计算机就执行什么,中间没有任何独立检查¹。
本文考察那些已经在模型之外检查 agent 行为的系统,提出一个守门人(gatekeeper),在固定规则批准之前暂扣每一处改动,并设计一项研究来检验它是否有用。目前尚未构建任何东西。为什么这不只是程序员的事:这些 agent 拿着真实的凭据行事,所操作的代码最终会发布给别人。
编程 agent 读取不可信文本,然后以它工具所持有的权限行事,而这通常就是开发者的权限。一项针对三款已部署的编程 CLI(从文本终端运行的程序)的研究发现,它们现有的检查都位于各个工具内部,因此文件写入工具拒绝的写入可以通过 shell 完成¹。缺失的那一环有一个比这些产品都更古老的名字:引用监视器——每个受保护的操作都必须经过它,而被它评判的对象无法篡改它⁶。本文考察已经在模型之外实施强制约束的系统(CaMeL、FIDES、CXI、Concordat,第 5 节将介绍的四个现有系统),以及一个依据外部证据来把关改动的提案——Beránek 的 Commit Boundary²。该提案先执行、再验证,然后提交或回滚,这预设了副作用可以被回滚。而编程 agent 的副作用大多不能:一个被删除的文件、一次 git push(把代码改动发布到他人拉取的共享副本)、一个发往别人 API 的 POST(一个会改变别人服务上某些东西的 Web 请求)。本文的论点是:让这些副作用变得可暂存,才是真正的工作所在;文章还设计了一项研究,用来衡量以这种方式构建的确定性监督器是否比现有系统多带来任何价值。这项研究一次都还没跑过。
这些是同一问题从三张桌子提出的。本文其余部分讲的是由谁来回答它。
这里的草稿在我阅读之前会先经过 Moot:一个由前沿模型组成的小组,我用它们实验室老板的名字来称呼(Dario、Sam、Sundar),外加负责起草的自家模型 Eddie。发表之后,三位外部读者(Claude、OpenAI、Gemini)发来了批评意见,本版本就是根据它们返回的意见改成的。第一版计划让监督器本身就是一个大语言模型。三位读者中有两位指出,这会让 agent 的文本在上一层重新进入授权路径,他们说得对。
不用操作系统的术语来说,问题是这样。一个 agent 被要求升级某个仓库里的依赖。它沿途读到的 README 里有别人写的一行,让它修改 .github/workflows/release.yml,好让发布任务把部署凭据上传到外部服务器。这个 agent 有文件工具和一个 shell。它能做出这个改动吗?在今天的大多数配置下,能。而如果它这么做了,是谁授权的?
给自己盖章
没有人授权。是 agent 自己的推理授权的,这等同于 agent 自己给自己写了许可条。AaOS 研究说得更正式:无论模型输出什么,无论它是在遵循用户、工具结果还是下载的技能,“都以宿主用户的完整权限运行,实际上处于 ring 0”¹。agent 进程自始至终运行在用户空间(应用程序运行的普通、非特权模式)。关键在于权限,而不在于硅片。
AaOS 取来标准操作系统教科书中的机制——19 个子系统共 116 项——逐一追问每项在已部署的 agent 中是什么样子¹。11 项是同构的,即存在且语义相同,因此现有防御可以沿用。65 项,也就是 56%,是缺失的,而缺失的大多数是保护措施:权限分离、事务、防篡改审计¹。
论文称为最危险的结论是介于两者之间的那一种——降级(degraded):功能存在但强制约束不存在,因为保护依赖模型遵循提示中的指令,或依赖另一条路径可绕过的检查,“因为系统看起来受到了保护”¹。为划出这条界线,作者使用了 Anderson 1972 年的引用监视器标准(出自为美国空军做的一项计算机安全规划研究):监视器必须不可绕过、不可篡改且可验证[1, 6]。写在提示里的规则一条都满足不了¹。
展示柜
论文随后在 Claude Code、code CLI 和 Gemini CLI 上做了 13 项实验,测试 25 种机制¹。访问检查位于各个工具内部,因此文件写入工具拒绝的写入可以通过 shell 完成。三款 CLI 在恢复会话时都会把伪造的记录当作一条用户消息加载。任务 id 命名的是一个包装层,所以报告中的停止可能留下仍在运行的进程。子 agent 继承父 agent 的权限。而一个基于模型的权限监视器会收到由 agent 控制的文本¹。
最后这项发现值得记住。一个在裁决前先读被告笔记的法官,并不独立于被告。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。