
TrustGraph 推出跟随数据流动的 AI 代理访问控制策略
来源标题:TrustGraph – ACLs that follow the data through your AI agents
TrustGraph 发布策略即代码工具,用于管控 AI 代理产出内容的流向。该系统根据代理读取过的数据来源,决定其输出可以被谁、哪些代理、发送到哪里,弥补了传统权限系统只管控读取、不追踪数据派生后流向的空白。此前 Invariant Labs 曾展示一个编码代理读取私有仓库后,在公开仓库的 PR 中泄露了所见内容。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
AI agent 产出内容的策略即代码。
根据 agent 读过的内容,决定它的输出可以去哪里。
试用 playground ·
编写策略 ·
我们如何验证它有效
权限系统决定 agent 可以读什么。可一旦 agent 写出了新东西,它们就跟不上了。
2025 年 5 月,Invariant Labs 展示了一个案例:一个编码 agent 读取了用户的私有仓库,然后把它发现的内容发布到了一个公开仓库的 pull request 上——起因是它读到了一个精心构造的 issue。每一步都是 agent 被允许做的操作。读私有代码没问题。开一个公开的 pull request 也没问题。没有任何环节检查过:后者是否来自前者。
收回访问权限解决不了这个问题:agent 需要那些私有代码才能完成工作。缺的是一条规则,规定由它衍生出的东西可以去哪里。每当一个 agent 把工作交给另一个 agent 时,同样的缺口就会出现:限制应当跟随数据走完每一步。
你写一个很小的策略文件。它规定谁可以读取来自各个来源的衍生内容、哪些 agent 可以使用它,以及每个动作把输出送到哪里:
version: 1
groups:
hr: [nina]
engineering: [sam, ravi]
leadership: [maya]
agents: [researcher, planner]
sources:
salaries: { readers: [hr], agents: [researcher, planner] }
roadmap: { readers: [hr, engineering, leadership], agents: [planner] }
benchmarks: { readers: [hr, engineering, leadership], agents: [researcher, planner] }
actions:
post_to_engineering: { agents: [planner], audience: [engineering] }
brief_hr: { agents: [planner], audience: [hr] }
brief_leadership:
agents: [planner]
audience: [leadership]
approval: { reviewers: [hr], valid_for: 1h }
TrustGraph 会记录每个输出是由什么构建而来的——贯穿每一步——并给出 allow、needs approval 或 deny 的判定及理由:
完整文件及其测试位于
examples/policies/handoff.policy.yaml。
readers(output) = 可以读取每一个输入的人
只有当接收某个动作输出的所有人都是这些读者之一时,该动作才被允许
审批会增加一项要求。它绝不会扩大可以读取某个来源的人群范围。策略中没有明确命名的内容一律拒绝。
决策是确定性的。决策路径中不涉及任何模型。
cargo install --locked --git https://github.com/skishore23/trustgraph trustgraph-cli
trustgraph policy init # writes trustgraph.policy.yaml
trustgraph policy check trustgraph.policy.yaml
trustgraph policy test trustgraph.policy.yaml
ok: 0 errors, 0 warnings
PASS salary data never reaches engineering
PASS roadmap summary can be posted
2 passed, 0 failed
策略自带测试。每个测试都说明 agent 读了什么、它尝试做什么,以及你期望的答案。
用平实的英文回读策略,精确查看策略变更后谁获得了访问权限,并通过模拟器运行它:
trustgraph policy explain trustgraph.policy.yaml
trustgraph policy diff old.policy.yaml new.policy.yaml
trustgraph policy simulate trustgraph.policy.yaml
salaries: output can reach hr (nina). Usable by agent planner.
email_customer: mailer may send to customers (acme) after approval by sales (leo), valid 30m.
WIDENS source salaries: readers gained ravi, sam
64 runs, 12,936 events: 994 allow, 5,082 deny, 392 needs_approval — 0 violations
每条命令都支持 --json。examples/policies 中有六个完整的示例策略。
TrustGraph 假定由 agent 起草策略、由人批准。每个问题都会一次性报告,附带路径、稳定的错误码和建议,因此 agent 可以自行运行 init → check → test → simulate → explain → diff 这个循环。然后由人审阅平实英文的解释和一份 diff,其中每一处访问权限的扩大都被标记出来。
让你的 agent 参考 docs/agents/writing-policies.md
或 llms.txt。用代码审查来保护策略文件。
状态。policy CLI 和 trustgraph serve 已经过安全审查。trustgraph gateway 和 Python 集成是新增的:两轮审查发现并修复了真实漏洞,第三轮正在进行中。可以试用它们,但暂时不要把它们部署在真实数据面前。
把 gateway 放在你的 agent 和它们使用的 MCP server 之间。它持有这些 server 的凭据、记录每个 agent 通过它们读取了什么,并在转发调用之前根据这些记录检查每一个动作。只要上游凭据仅由 gateway 持有、且 agent 没有其他途径访问这些 server,agent 就无法绕过它。gateway.yaml 说明哪个工具读取哪个来源、哪个工具对应哪个动作,以及每个工具可以携带哪些参数:
trustgraph gateway --policy trustgraph.policy.yaml --operator leo --config gateway.yaml
planner slack__post_message #engineering: error: TrustGraph gateway: post_to_engineering was not forwarded: denied: salaries is readable by hr only; engineering (ravi, sam) is not included (denied)
配置、会话、交接和威胁模型:
docs/gateway.md。可运行的示例:
examples/gateway。
一个通过 HTTP 和 MCP 提供的本地服务,因此任何 agent 技术栈都可以登记它读取了什么、记录它写了什么,并在行动前先询问。每个 agent 都有自己的 token;由人来担任 operator,在本地页面上批准请求。
trustgraph serve --policy trustgraph.policy.yaml --operator leo
在行动前先询问:
curl -s localhost:8787/v1/check
-H "Authorization: Bearer $(cat ~/.trustgraph/serve/tokens/mailer.token)"
-H "Content-Type: application/json"
-d '{"artifact": "<artifact id>
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。