返回资讯中心
外部精选
软件工程
#开发者实时流

TrustGraph 推出跟随数据流动的 AI 代理访问控制策略

来源标题:TrustGraph – ACLs that follow the data through your AI agents

TrustGraph 发布策略即代码工具,用于管控 AI 代理产出内容的流向。该系统根据代理读取过的数据来源,决定其输出可以被谁、哪些代理、发送到哪里,弥补了传统权限系统只管控读取、不追踪数据派生后流向的空白。此前 Invariant Labs 曾展示一个编码代理读取私有仓库后,在公开仓库的 PR 中泄露了所见内容。

Hacker News 最新skishore232026/11/16 · 今天22 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

AI agent 产出内容的策略即代码。 根据 agent 读过的内容,决定它的输出可以去哪里。 试用 playground · 编写策略 · 我们如何验证它有效 权限系统决定 agent 可以读什么。可一旦 agent 写出了新东西,它们就跟不上了。 2025 年 5 月,Invariant Labs 展示了一个案例:一个编码 agent 读取了用户的私有仓库,然后把它发现的内容发布到了一个公开仓库的 pull request 上——起因是它读到了一个精心构造的 issue。每一步都是 agent 被允许做的操作。读私有代码没问题。开一个公开的 pull request 也没问题。没有任何环节检查过:后者是否来自前者。 收回访问权限解决不了这个问题:agent 需要那些私有代码才能完成工作。缺的是一条规则,规定由它衍生出的东西可以去哪里。每当一个 agent 把工作交给另一个 agent 时,同样的缺口就会出现:限制应当跟随数据走完每一步。 你写一个很小的策略文件。它规定谁可以读取来自各个来源的衍生内容、哪些 agent 可以使用它,以及每个动作把输出送到哪里: version: 1 groups: hr: [nina] engineering: [sam, ravi] leadership: [maya] agents: [researcher, planner] sources: salaries: { readers: [hr], agents: [researcher, planner] } roadmap: { readers: [hr, engineering, leadership], agents: [planner] } benchmarks: { readers: [hr, engineering, leadership], agents: [researcher, planner] } actions: post_to_engineering: { agents: [planner], audience: [engineering] } brief_hr: { agents: [planner], audience: [hr] } brief_leadership: agents: [planner] audience: [leadership] approval: { reviewers: [hr], valid_for: 1h } TrustGraph 会记录每个输出是由什么构建而来的——贯穿每一步——并给出 allow、needs approval 或 deny 的判定及理由: 完整文件及其测试位于 examples/policies/handoff.policy.yaml。 readers(output) = 可以读取每一个输入的人 只有当接收某个动作输出的所有人都是这些读者之一时,该动作才被允许 审批会增加一项要求。它绝不会扩大可以读取某个来源的人群范围。策略中没有明确命名的内容一律拒绝。 决策是确定性的。决策路径中不涉及任何模型。 cargo install --locked --git https://github.com/skishore23/trustgraph trustgraph-cli trustgraph policy init # writes trustgraph.policy.yaml trustgraph policy check trustgraph.policy.yaml trustgraph policy test trustgraph.policy.yaml ok: 0 errors, 0 warnings PASS salary data never reaches engineering PASS roadmap summary can be posted 2 passed, 0 failed 策略自带测试。每个测试都说明 agent 读了什么、它尝试做什么,以及你期望的答案。 用平实的英文回读策略,精确查看策略变更后谁获得了访问权限,并通过模拟器运行它: trustgraph policy explain trustgraph.policy.yaml trustgraph policy diff old.policy.yaml new.policy.yaml trustgraph policy simulate trustgraph.policy.yaml salaries: output can reach hr (nina). Usable by agent planner. email_customer: mailer may send to customers (acme) after approval by sales (leo), valid 30m. WIDENS source salaries: readers gained ravi, sam 64 runs, 12,936 events: 994 allow, 5,082 deny, 392 needs_approval — 0 violations 每条命令都支持 --json。examples/policies 中有六个完整的示例策略。 TrustGraph 假定由 agent 起草策略、由人批准。每个问题都会一次性报告,附带路径、稳定的错误码和建议,因此 agent 可以自行运行 init → check → test → simulate → explain → diff 这个循环。然后由人审阅平实英文的解释和一份 diff,其中每一处访问权限的扩大都被标记出来。 让你的 agent 参考 docs/agents/writing-policies.md 或 llms.txt。用代码审查来保护策略文件。 状态。policy CLI 和 trustgraph serve 已经过安全审查。trustgraph gateway 和 Python 集成是新增的:两轮审查发现并修复了真实漏洞,第三轮正在进行中。可以试用它们,但暂时不要把它们部署在真实数据面前。 把 gateway 放在你的 agent 和它们使用的 MCP server 之间。它持有这些 server 的凭据、记录每个 agent 通过它们读取了什么,并在转发调用之前根据这些记录检查每一个动作。只要上游凭据仅由 gateway 持有、且 agent 没有其他途径访问这些 server,agent 就无法绕过它。gateway.yaml 说明哪个工具读取哪个来源、哪个工具对应哪个动作,以及每个工具可以携带哪些参数: trustgraph gateway --policy trustgraph.policy.yaml --operator leo --config gateway.yaml planner slack__post_message #engineering: error: TrustGraph gateway: post_to_engineering was not forwarded: denied: salaries is readable by hr only; engineering (ravi, sam) is not included (denied) 配置、会话、交接和威胁模型: docs/gateway.md。可运行的示例: examples/gateway。 一个通过 HTTP 和 MCP 提供的本地服务,因此任何 agent 技术栈都可以登记它读取了什么、记录它写了什么,并在行动前先询问。每个 agent 都有自己的 token;由人来担任 operator,在本地页面上批准请求。 trustgraph serve --policy trustgraph.policy.yaml --operator leo 在行动前先询问: curl -s localhost:8787/v1/check
-H "Authorization: Bearer $(cat ~/.trustgraph/serve/tokens/mailer.token)"
-H "Content-Type: application/json"
-d '{"artifact": "<artifact id>

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →