
Mnestiq推出新工具:将防火墙日志关联到AI代理的具体操作步骤
来源标题:Show HN: Link firewall log entries to the AI agent step behind them
Mnestiq发布新工具,可将防火墙日志条目关联到AI代理执行的具体步骤,记录代理看到、决定和执行的内容作为签名防篡改证据。当出现问题时,可定位运行过程、步骤、驱动输入及审批人,并证明记录未被事后修改。该工具支持Anthropic、OpenAI、Azure OpenAI及兼容OpenAI的模型。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Mnestiq 将你的 agent 所看到、所决策和所执行的内容,记录为经过签名、可防篡改的证据。当出现问题时,你可以指明是哪一次运行、哪一个步骤、是哪个输入驱动了它、以及由谁批准,并证明记录在那之后未被改动。 一次提示注入的逐步过程:不可信的网页内容在第 4 步到达模型,模型请求 send_email,一项策略自动批准了它,随后便建立了一次连接。每一条记录都由一个签名的检查点封存。 缺口 你的日志能看到连接。你的追踪能看到提示。但没有任何东西把它们联系起来。 一条防火墙告警:一台运行 AI agent 的主机向外部邮件服务器的 25 端口发送了 48 KB 数据。响应人员现在有三个问题,而今天的工具一个都回答不了。 防火墙和流量日志只显示一个 IP 和一个端口。它们不知道 agent、运行或步骤。 这条指令来自用户,还是来自网页、文档或另一个 agent?这必须在事情发生时就被捕获,而不是事后重建。 普通日志可以被任何拥有写权限的人编辑。用于事后分析、保险或监管的证据,必须能够证明它没有被改过。 基于 Anthropic、OpenAI、Azure OpenAI 和 OpenAI 兼容模型构建的 agent,只需几行代码即可记录。设计上保证安全失败:如果记录失败,agent 继续运行。 被标记的来源会被检测规则视为不可信。
$ pip install "mnestiq[anthropic]"
$ mnestiq keygen --out keys
为现有 agent 加装记录。你的 agent 代码无需改动。
import anthropic from mnestiq import FileSink, Recorder from mnestiq.egress import instrument_egress from mnestiq.integrations.anthropic import instrument_anthropic from mnestiq.keys import load_private_key recorder = Recorder(FileSink("evidence.jsonl"), agent_id="support-bot", signing_key=load_private_key("keys/signing.key")) client = instrument_anthropic(anthropic.Anthropic(), recorder) instrument_egress() # 在运行期间标记并记录出站连接 with recorder.run(): ... # 你的 agent,保持现状 recorder.close() # 对最后一个检查点签名:验证时需要它
之后:$ mnestiq verify evidence.jsonl --trusted-key keys/signing.pub
02 · 验证 构造上即可防篡改 记录以哈希链相连,并由 Ed25519 签名的 Merkle 检查点封存。 改动、删除、添加或重排一条记录,哈希就会与已签名的内容不再匹配。 将 agent 证据与你已经收集的基础设施日志关联起来。 粘贴防火墙或流量日志中的一个地址和端口,即可跳转到打开该连接的 agent 步骤。 上述每一条记录都由一个签名的检查点封存。 当有人编辑记录时 为处理事件的人而构建。 完整性检查 · 失败 有人编辑了批准记录以嫁祸于某人。这次编辑甚至让一项发现消失了,但记录已与已签名的内容不再匹配,封条显示为已破损。 响应人员得到什么 运行、步骤、输入和批准。 同一个证据文件回答了这三个问题:是哪个 agent、为什么、以及记录能否被证明未被改动。任何人都可以用开源验证器进行检查,无需 Mnestiq。 证据格式、记录器、验证器和一个本地仪表盘。免费且开源,因此你可以自行审计。 面向需要在 agent 运行时看清其行为,并在出现问题时进行调查和证明的安全团队。 证据只有在已知其局限时才有用。我们在公开规范和已发布的威胁模型中明确说明这些局限,其中考虑的每一种攻击都有自动化测试作为支撑。 可证明 在固定签名密钥的前提下,记录在写入之后未被编辑、删除、插入或重排。 不可证明 被入侵的主机在写入时说了真话。请用独立的基础设施日志进行佐证。Workbench 会做这件事。 缺口 单独一个证据文件可以被削减回较早的检查点而不被发现。将最新检查点的副本保存在别处并据此验证,即可堵上这个缺口。Evidence Vault 会为你做这件事。 密钥 签名密钥可以存放在 Azure Key Vault 中,或存放在独立账户下的签名服务中。被入侵的 agent 无法复制密钥。使用签名服务时,它也无法让较早的证据被重新签名,因为该服务对每条链只做向前签名。Key Vault 会按 agent 身份的请求对任何内容签名,因此在那里,Evidence Vault 的副本才是揭示重写的关键。 验证,而非信任。 你不应该非得听信安全厂商的一面之词。记录器及其验证器是开源的,威胁模型中的每一项声明都有自动化测试作为支撑,任何证据文件都可以独立验证,无需 Mnestiq。提示和数据留在你自己的系统上:只有签名的检查点指纹会离开,而且只发往你配置的目的地。 欢迎独立审查。break-it 挑战提供了一份经过签名、带时间戳的事件记录:在不被验证器发现的情况下改动它,然后告诉我们你是怎么做到的。 我们正在寻找少量安全和平台团队,围绕真实事件来塑造 workbench。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。