
MemSeal:为AI智能体长期记忆提供来源追踪与隔离层
来源标题:Show HN: MemSeal – provenance containment for agent long-term memory
MemSeal 在 AI 智能体长期记忆的写入与召回边界上增加了一层隔离机制,每条记忆都包裹在记录来源、信任层级等信息的来源信封中,并存入 SHA-256 哈希链。写入策略决定哪些内容可被存储,分层信任的召回路径则决定哪些内容可被呈现,尤其在外发或不可逆操作前。该项目以 Show HN 形式发布。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
MemSeal 是 AI agent 长期记忆在写入/召回边界上的一层收容机制。每条记忆条目都包裹在来源信封中(谁写入、来自什么来源、派生自什么、处于哪个信任层级),并置于 SHA-256 哈希链内。确定性策略决定什么可以存储,按信任层级划分的召回路径决定什么可以浮出——尤其是在外部发送或不可逆操作之前。
写入尝试 ──► 提取候选 ──► [W1 指令式] [W2 派生层级] [W3 主体] [W4 秘密] [W5 密封槽] │ 激活 │ 隔离 / 复核 / 拒绝 ▼ 哈希链式、按主体隔离的记忆存储 │ 召回 ──► 校验链 ──► 主体过滤 ──► 来源 + 信任层级 ──► 唯一依据闸门(出站/不可逆:扣留低信任、未经佐证的事实)
写入策略:W1 将来自用户以外任何来源的指令式内容隔离;W2 让派生条目继承其最差祖先的信任层级(防止把文档洗白成“用户事实”);W3 拒绝跨主体写入并过滤跨主体召回;W4 密封秘密(按 entry_class=secret 以及按形态),使明文永不落库;W5 将与已密封事实相矛盾的事实送交复核。
该闸门在一个独立的留出语料上评判,该语料由从未见过 MemSeal 代码、开发语料或报告的独立第三方编写。门槛预先固定,从不移动。条件:C0 原始存储 · C2 写入路径 · C3 写入 + 召回路径 · C4 + 合并防护。
总体:GATE 2 = FAIL(v2)。v1 与 v2 之间的三项确定性修复(基于分类的秘密密封;唯一依据召回闸门;合并根退役)使两项安全标准均达标——在 v2 上,跨主体 + 秘密泄漏从 22 → 0(C0 → C2),注入成功率 0.775 → 0.20,C3 上的延迟利用为 0.000。剩余两项失败在效用侧,其原因已精确陈述(而非含糊带过):
完整细节,包括一份更正了早前归因措辞的审计勘误,见 reports/phase2-regate.md 和 reports/phase2-fix.md。
8 类攻击 M1–M8(仅查询注入、文档持久化、合并洗白、休眠/触发、虚假事实植入、偏好漂移、跨主体泄漏、秘密暂存)外加干净的效用用例。
划分纪律:开发集(120 例)在本仓库公开;留出语料独立编写并保持密封——此处只报告其存在与汇总数字,绝不报告具体用例。
条件 C0–C4 与确定性标记评分(无 LLM 评判):注入成功率、延迟利用、泄漏计数、干净保留率、隔离精确率/召回率、按攻击类别。
开发集结果(120 例,真实 LLM) 指标 C0 C1 C2 C3 C4 注入成功率 0.982 0.713 0.556 0.556 0.463 延迟利用 0.849 0.616 0.488 0.395 0.372 泄漏计数 21 12 6 2 0
(开发集与作者模板同源,因此应将开发集视为乐观的分布内参考;独立留出集才是真正的测试。)
MemSeal 也曾作为 Mem0 的包装层运行(完全本地:Ollama LLM + Ollama embedder,内存向量存储),60 例,两种条件:
python3 -m pytest -q # 确定性策略 + 基准 + 测试框架测试 python3 -m memseal bench generate --split dev --out bench/dev python3 -m memseal verify <store_dir> python3 -m memseal quarantine <store_dir>
真实 LLM 测量框架位于 memseal_phase2/,仅与本地 Ollama(qwen2.5:14b)通信。无外部 API、无 API key、除 localhost 与一次性模型下载外无网络。测试使用 mock LLM,因此测试套件无需 Ollama 即可运行。
测试:完整套件通过(确定性;mock-LLM 框架测试无需 Ollama)。
GATE 2:FAIL(已记录)。安全标准在独立 v2 留出集上通过;效用标准因上述原因未通过。
阶段报告:reports/phase1.md · reports/phase2.md · reports/phase2-fix.md · reports/phase2-regate.md。
许可与联系 All Rights Reserved。本仓库仅为评估阅读而发布;不授予使用、复制、修改或再分发的任何权利。见 LICENSE。收购 / 授权 / 转让咨询欢迎通过作者的作品集联系: https://nagayu-portfolio.nagayu.workers.dev/en
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。