返回资讯中心
外部精选
软件工程
#开发者实时流

研究:AI Agent 应采用基于能力的权限模型,默认无任何权限

来源标题:Capability-Based Security for AI Agents

操作系统研究领域提出用基于能力的权限模型管理 AI Agent:Agent 默认不应拥有任何权限,只能按任务需要获得狭窄、分类型、可撤销的授权。文章指出,当前几乎所有部署中 Agent 都以用户身份运行,实际拥有与用户同等的全部权限,而现有权限模型以应用和人为信任单位,粒度太粗且授权长期有效。

Hacker News 最新iandaily2026/11/17 · 今天20 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

问问你自己,你机器上的 AI agent 实际上被允许做什么。不是你想让它做什么——而是如果它尝试,系统会允许什么。在当今几乎所有实际使用的配置中,诚实的答案是:你能做的事,它都能做。agent 运行在一个以你的身份运行的进程里,而“你”是一个非常大的授权。面向 AI agent 的基于能力的安全机制(capability-based security)所主张的正是:这套信任模型从根上就错了——agent 应当从“没有任何权限”开始,只针对其任务确切需要的操作,获得范围狭窄、带类型、可撤销的授权。这在操作系统研究中是个老想法了。它一直在等的那个行动者,终于来了。

所有人实际生活在其下的权限模型,是围绕两个舒适的假设设计的:信任的单位是应用,驱动应用的主体是人。

于是系统提出的问题是应用形状的、人的形状的。“允许此应用访问你的文件?”“允许此应用使用网络?”你回答一次,通常在安装时,通常答“是”,然后这项授权就以整个程序为粒度永久存在。从那时起,应用便以安全人士所称的 ambient authority(环境权限)运作——它不为每个操作出示凭据;它只是行动,系统再检查你是不是也能这么做。既然你几乎什么都能做,它也就什么都能做。

这一直是个粗糙的安排,但它之所以还能撑住,是因为第二个假设:有一个在环人在场,点击每一个按钮,或多或少知道正在发生什么。应用的权限很宽,但它的行动被人力注意力所节流。授权有一扇谷仓门那么大,而人是一次一步走过去的。

现在把 agent 放到驾驶座上,看这两个假设同时崩塌。

agent 不受人力注意力节流——以机器速度发出操作正是它的全部价值。而且 agent 也不是一个你审计一次就能永久信任的固定程序;它是一个概率性系统,下一个动作取决于它的上下文,而上下文包含它五分钟前从你从未审查过的来源读到的文本。安全社区对此带来的后果已有不断增长的清单——OWASP 的 LLM 应用 Top 10 把 prompt injection 和“excessive agency”(过度代理)排在前列,而 excessive agency 其实不过是 ambient authority 换了个新名字。

由此产生的故障,经典术语叫 confused deputy(混淆代理人):一个有合法权限的程序被骗去为别人的目的使用这些权限。agent 是有史以来最容易混淆的代理人。任何能把文字摆到它面前的东西都能指挥它。把一个易受混淆的行动者交给你全部的环境权限,你造出来的就不是一个助手形状的工具;你造出来的是一个拿着你的钥匙、你的门禁卡、还习惯于听陌生人指令的、速度极快的实习生。

行业目前的答案是监督——观察每一步,批准每一个操作。这行得通,代价是你想要的那个东西:委托。全有或全无的信任只给你恰好两个挡位:当保姆,或者祈祷。两者都不是安全模型。两者都是对一个权限系统的应对策略——这个系统对于我们如今要求它治理的东西,根本没有词汇。

能力系统颠倒了这个模型的核心假设。行动者不再携带宽泛的环境权限、再对着身份做检查;权限存在于 capability(能力)之中:不可伪造的令牌,每一个指定一个具体资源以及对该资源的具体权利。如果你持有这个 capability,你就能执行该操作。如果你没有,就没有操作可尝试——请求不是被拒绝,而是根本无法表达。

由此得出三个性质,每一个都直接命中 agent 问题。

默认拒绝。行动者从一无所有开始。它持有的每一项权限都是被明确授予的,这意味着“这个 agent 能做什么?”的完整答案就是“这是它被交给的清单”——一份你可以阅读的清单,而不是对你账户能触及的一切做减法题。最小权限不再是写在策略文档里的愿望,而成为结构性事实。

带类型的授权。一项 capability 不是“磁盘访问”。它是向此日志追加、读此目录、发往此地址。授权自带含义,狭窄到授予它无需信念。这对一个概率性行动者极其重要:你不必预测模型可能被劝说去想要的一切。你只需限定其中任何一项能触及什么。

受限的爆炸半径。当一个持有 capability 的 agent 被混淆时——阶段诚实地讲,该说“何时”而非“是否”——损害仅限于它手中的权限。对一个持有某文件夹读权限和某文件追加权限的 agent 实施 prompt injection,是一起事件。对持有你环境权限的 agent 实施同样的注入,是一次职业生涯事件。

这些都不是新东西。Dennis 和 Van Horn 在 1966 年就为多道程序设计系统描述了 capability,capability 操作系统此后被构建、被验证,却基本上被主流忽视——因为五十年来主流的行动者是人,而人觉得环境权限很方便。它是正确的设计,在等待一个痛到足以证明其必要性的问题。自主的、可被注入的、机器速度的行动者,就是那个问题。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →