开发者推出AI编程代理控制层演示，可追踪代码改动并要求人工审批
来源标题：Show HN: Control Layer Demo for AI Coding Agents
开发者发布了一个AI编程代理控制层演示，在LLM与代理操作之间加入确定性控制层，按预设规则对文件操作执行通过、需审批或拒绝。该方案通过SHA-256校验比对代理操作前后的仓库状态，以追踪改动。演示已在GitHub公开，可离线运行，展示授权修改、受保护文件等待人工批准及越界修改被拒等场景。
以下正文由 AI 翻译自 Hacker News 最新（原文版权归原站所有），可能存在偏差，重要内容请以原文为准。
让编程agent（比如Claude Code）每天在代码仓库上自主工作，会带来高度的不确定性。对于那些不愿意让agent独自决定是否可以创建、修改或删除仓库中任何文件夹的人来说，我希望能追踪已执行的操作，并且能够根据所定义的一些标准，让agent继续自主工作，或者要求它请求人工审批。
经过调研，我认为最干净的做法是在LLM与agent的工作之间开发一个确定性的控制层，用来追踪并捕获可能违反预定义规则的行为。
怎么做？首先在agent开始工作之前设置审批规则（通过／需要审批／拒绝），然后在之后进行密码学SHA 256校验等控制。
这样可以比较agent工作前后的状态。
我在自己的公开GitHub仓库中放了一个demo，你可以轻松启动并观察不同场景下的行为，比如已应用的授权修改、受保护文件等待人工审批，或超出范围的授权修改被拒绝。该demo为离线运行，不涉及官方运行时，使用原生node.js且无依赖。它应该仍能让你理解核心原理。
我想了解：你们是如何实现和处理安全边界的？尤其是当你让agent在关键数据/敏感代码库上工作时？用哪些防护措施？
评论URL：https://news.ycombinator.com/item?id=50422833 点数：1 评论数：0
正文由 探How 从来源站点 RSS 同步，内容未经改写；遇到排版缺失或需要图片、视频时请以原文为准。