
AI Agent沙盒项目众多,架构假设各不相同
来源标题:Not All Agent Sandboxes Are Created Equally
随着企业采用AI Agent,Discobox、OpenShell、E2B、Docker Sandboxes等沙盒项目不断涌现,但它们在内部架构、实现方式和目标用户上差异明显。作者提出从四个维度对比这些项目,并计划逐一分析其设计取舍、优缺点及相互组合的可能性。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
你在哪里运行 AI agent?笔记本?某个云服务商?Kubernetes?还是全都有?企业正在采用 AI agent,就需要有地方运行它们,于是越来越多的“沙箱”项目涌现出来满足这一需求。我一直在和客户一起深入研究大规模运行 AI agent 的挑战,也碰到了一些有意思的项目,你可能也遇到过。Discobox、OpenShell、Minimal、E2B、Perplexity 的 SPACE、Agent Substrate、Docker Sandboxes(以及其他一些)。过去几周我一直在研究这些项目,它们做出的假设相当不同,而这些假设决定了各自的内部架构、实现方式和目标用户。
那么该用哪个沙箱?这有点像问“什么车最好?”你得先告诉我你想干什么。我认为有四个维度可以帮助你理清这些项目。
在这个系列里,我会让每个项目逐一过一遍这四个维度,解释它的设计选择,分析它的优势和劣势,以及这些项目可以在哪些地方相互组合(或者可能在哪些地方趋同)。
如果你觉得我漏掉了某些项目,请告诉我!
那么,agent 到底为什么需要沙箱?agent 运行的是模型决定要运行的代码(shell 命令、脚本、安装包等),而它决定做什么取决于它一路上读到的任何东西,包括一个 GitHub issue、一个 README,或者某个人为了让其听从指挥而写的工具响应。即使没有任何恶意,它也可能 rm -rf 掉错误的目录、force-push 覆盖别人的分支,或者循环运行直到耗尽你的 token 预算。
模型还可能编造一个上传 URL,或者选一个和任务毫无关系的命令,而工具会把这个错误变成真实的网络请求。Cohere 报告的行为就是一个有用的例子,即便我们还没确定原因是什么。我们不需要证明恶意意图,也会想要拦截那个请求。无论模型是搞混了、在遵循一条注入的指令,还是确信自己在跑一个有用的测试,我都希望环境能独立于模型的解释来强制执行它被允许做什么。
如今大多数人把 agent 跑在自己的笔记本上,由人在过程中逐步批准。批准是一道关卡,但笔记本本身并不理想:agent 运行时拥有开发者能访问的一切,比如 SSH 密钥、云凭证、.env 文件、GitHub token、公司网络等等。而且 agent 能读到的任何凭证都可能在不经意间泄露(参见最近的 LiteLLM 被入侵事件),比如被打印进日志、被拉进发给模型服务商的上下文里,或者作为命令行参数或 URL 参数传出去。在有人盯着每一步的时候,你(也许)还能侥幸没事。但我们正走向无人值守、长时间、同时运行多个 agent 的模式,到那时我们就不能把一切访问权限都交给它们了。必须有别的东西来限制 agent 能破坏什么、能通过哪些凭证访问什么,并让我们在它落到任何要紧的地方之前审查它做了什么。
使用沙箱也有两种很明确的方式。第一种是把整个 agent 放进去(harness、它的工具、仓库)并锁死,就像你用 Claude Code 或 Codex 在一个仓库上工作时那样。第二种是把 agent 循环留在你自己的应用里,只把它想运行的代码或工具调用送进沙箱,比如一个聊天应用,模型写一些 Python 来分析上传的电子表格,应用在沙箱里运行它并把结果交还给模型。你也可以混用这两种方式,比如 harness 跑在一个锁死的沙箱里,然后为它不想放在自己旁边运行的代码或工具启动独立的、短生命周期的沙箱。
人们谈到沙箱时,通常从隔离技术讲起。是宿主机上受限的进程、容器、gVisor,还是带独立内核的 microVM?每一种都让逃逸更难,但没有一种能做到不可能。不过我会先问的问题是:这道边界到底是不是用来防住 agent 的?一个以 root 运行的特权容器,对它里面的东西来说算不上什么边界,而有些项目故意这么选,因为 agent 在沙箱内需要 Docker 和 systemd 之类的东西。对于你信任的 agent,这是合理的取舍,但对于你不信任的就不太妙了。
但 agent 并不需要突破任何东西就能造成破坏。如果它能用有效凭证访问 GitHub 或数据库,它就能从一个完好的 microVM 内部 force-push 覆盖别人的分支,或者删掉一张表。如果出站流量不受限制,一个编造的上传 URL 也能收到请求。所以这个维度的另一半是访问控制,即 agent 能在网络上访问什么、能用哪些凭证,以及谁有权更改这些规则。把 token 挡在沙箱外面(让代理在出站时附上它)并不改变这个 token 被允许做什么,所以 agent 仍然可以通过那个代理做它权限范围内的任何事。
对每个项目,我想知道是哪个组件在执行这些控制、它是否位于 agent 无法触及的沙箱之外,以及谁有权更改它。OpenShell 在工作负载之外运行一个 supervisor,根据策略检查出站请求并附加凭证。Agent Substrate 默认拒绝出站,并在一个共享网关处替换凭证。E2B 的开源运行时默认允许公网出站,并把凭证放在沙箱内部(它的托管产品做得更多)。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。