
Gluu 提出可证明护栏概念,用 Cedar 验证 AI 代理权限
来源标题:Provable Guardrails
Gluu 提出「可证明护栏」(Provable Guardrails),指在运行时执行策略、且其保障可针对所执行策略进行形式化验证的控制机制。NVIDIA 的 OpenShell 团队计划用 Cedar 的分析工具,验证子代理策略不超出父代理的权限上限。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Provable Guardrails
Agentic AI Foundation 提出的 guardrail 定义涵盖“规定预期行为的约束,或试图阻止不想要的行为或披露的约束”。但如果这些 guardrail 只是“试图”阻止却未能真正阻止,那它们的强度究竟如何?
顾名思义,将 guardrail 称为 Provable 应当承担举证责任——在激活子 agent 的策略或授予新权限之前,验证所提议的策略是否处于已批准的权限上限之内。记录被证明的内容、策略版本以及该决策所依赖的输入。
这正是我们需要定义“Provable Guardrails”的原因,用以描述在运行时强制执行策略、且其具体保证可针对所执行的策略进行形式化验证的控制措施。NVIDIA 的 OpenShell 与 Cedar 的结合提供了一个具体示例。NVIDIA 的 OpenShell 团队计划使用 Cedar 现有的分析工具包来验证子 agent 的策略是否处于其父级权限上限之内。参见 NVIDIA 近期博客,了解他们为何选择 Cedar 来实现 Provable Guardrails。
更多信息请访问 Gluu、Janssen Project 或 OWASP GovOps
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。