开发者提出外层沙箱方案,防止编码代理泄露敏感数据
来源标题:An Outer Sandbox for Coding Agents
开发者提出用轻量级外层沙箱运行编码代理本身,而非仅依赖工具自带的命令沙箱。其担忧在于启动 shell 的程序可能访问主目录和 shell 环境中的敏感数据,且批准提示在多次出现后容易被忽视。该方案可继续使用代理自身的审批系统,同时提前限定代理可见范围,但原文未给出具体实现细节。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
我平时用很多编程工具,也喜欢尝试新模型并把它们用于实际工作。但其中很多工具让我很难确信它们没有暴露我主目录或 shell 环境里的敏感数据。最让我担心的是,某个工具读取了它本不该读取的内容,然后事后才发现这些内容已经传到了模型提供商那里,或者更糟,被分享给了其他第三方。
编程工具在沙箱化它们所运行的 shell 命令方面已经做得相当不错了。问题在于,启动 shell 的那个程序能访问的东西远比 shell 本身多得多。审批提示有帮助,但我知道自己读第一个提示时有多仔细,读第二十个时又有多仔细。我真的很希望能事先决定一个 agent 能看到什么、不能看到什么。
Docker 和虚拟机在这方面效果很好。但对于一个临时项目来说,把编译器、我的工具和一个能用的 agent 登录环境打包成一个镜像,可能比我坐下来要做的那件事本身还费劲。
所以外层沙箱这个(非常简单的)想法就是:把编程工具本身启动在一个专用的轻量级沙箱里。我仍然可以使用 agent 自带的审批系统,但也能更有信心:即使我批准了错误的命令,它也只能触及我允许进入外层沙箱的那些东西。
为此我写了一个小包装工具,叫 lilbox(mo.town/lilbox)。它在 macOS 上使用 Seatbelt,在 Linux 上使用 bubblewrap,两者都是轻量级的操作系统原生沙箱子系统。默认配置让 agent 能访问项目目录、它的登录状态、选定的工具和缓存,以及网络。它会把常见的凭据文件挡在外面,并过滤 agent 继承的环境变量。但我最喜欢的一点是,我可以借助 agent 非常快地构建或修改配置。市面上有很多 agent 隔离工具,但这个是属于我的。:-) 试试看吧。
关于背后理由的更多说明见 Why Outer Sandboxes?源码和更多示例配置在 GitHub 上。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。