
Letta与UC Berkeley提出AI智能体记忆设计方案
来源标题:The Components of Agent Memory
Letta与UC Berkeley研究人员借鉴人类睡眠记忆巩固机制,提出智能体记忆设计思路。他们提出"睡眠时间计算",让模型在交互间隙反思日志、修正错误并生成新的表示。该方案将智能体记忆分为即时捕获与离线巩固两部分。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
索伦·克尔凯郭尔曾写道,生活只能向后理解,却必须向前度过。在为AI智能体设计记忆时,我们遇到了类似的困境。
作为人类,我们在日常生活中不断编码记忆。海马体在其中扮演核心角色,它在当下捕捉经历,使记忆快速形成并可立即调用。但只有部分经历会被巩固为长期知识。
这种巩固很大程度上似乎发生在我们大脑“离线”时。在睡眠和安静休息期间,海马体会重放近期的经历。据认为,这一过程会逐渐提炼这些经历,并将其整合到新皮层——即大脑中储存我们视为“知识”的大部分内容的部分。
智能体记忆可以采用类似的分工。智能体会在日志或记录中捕捉大量工作内容。Letta和UC Berkeley的研究人员提出了“睡眠时间计算”(sleep-time compute),让模型利用交互之间的空闲时间重新组织已有上下文。同样的思路可以帮助智能体通过反思日志来整理记忆,修正错误或生成新的笔记和表示。这一过程通常被称为“做梦”(图1)。
我们发现,“做梦”是帮助Claude获得有效记忆的有用工具。在本文中,我们分享我们对智能体记忆的思考方式,并介绍我们用来探索智能体记忆的若干评估,包括“做梦”的使用,以及每个组件对记忆组织的贡献。
我们所说的“智能体记忆”,是指Claude从经验中获得的知识——包括与用户的交互以及被分配的任务——并在会话之间保留,保存为后续可读取的上下文。它不包括模型学习或管理上下文的其他方式,例如权重变更(训练期间设定的内部参数)、上下文学习(单次对话内获得的知识)以及压缩(Claude编写的摘要,用于替换较早的对话轮次,以便在新的上下文窗口中继续工作)。
在人脑中,经历之前、之中或之后释放的化学信号可以将某段记忆标记为重要。被标记的记忆在离线期间往往比未被标记的记忆更频繁地被重放。这一过程称为重放,有助于稳定记忆并将其整合到长期记忆中。
同样,Claude可以在会话日志中实时标记显著事件,以便日后更容易找到,或将其写入记忆存储,例如一个记忆笔记文件夹(图2)。但Claude如何在当下、在还不知道接下来会发生什么之前,判断什么是显著的?
记忆有时是一种预测。通过写下一条规则,智能体预测它所描述的模式将再次相关。例如,写下一条经过验证的事实,就是预测未来会话中的智能体将希望依赖该事实而无需再次核实。随着时间的推移,Claude在这类预测方面已变得更加擅长。
以Continual Learning Bench(CL-Bench)1.0中的一项任务为例,该基准衡量智能体利用记忆处理长周期任务的能力。其中一项任务要求Claude通过在数据库中查找信息来回答一系列问题。Claude给出答案后,会被告知正确答案,并可以写一条记忆来帮助回答未来的问题。
记忆可以在此支持一个学习循环。如果Claude答错了问题,它可以记录失败,提出关于出错原因的假设,检验这些假设,并将发现转化为关于未来如何回答的规则。
我们使用Claude Managed Agents运行了CL-Bench 1.0任务。Claude在每个问题中都以全新会话开始,只有一个例外:它可以从一个跨会话持久存在的记忆目录中检索文件。
不同模型在创建自身学习循环方面取得了不同程度的成功。Claude Sonnet 4.6 能够生成关于答案为何错误的假设。其记忆目录中散落着多个文件,每个文件列出若干未经检验的猜测。
Claude Opus 4.7 将其笔记整合为一份参考文档,并开始标记哪些事实已经核实、哪些尚未确认。Claude Sonnet 5 在评分者检查后为每个答案标记“已确认”,并在答错时写下更正。
Claude Opus 5 是这些模型中第一个完成闭环的。其大多数条目包含一条规则(以及它如何知道该规则为真)、对先前问题的答案,以及对其沿途发现的陷阱的明确警告(图3)。
与Opus 5一样,Claude Opus 5.5 和 Claude Sonnet 5.5 都完成了闭环,利用记忆捕捉关于如何最好地回答未来问题的经过验证的规则。借助记忆,两者的得分与Opus 5大致相同,尽管它们在没有记忆时的基线表现略高。
我们还评估了Claude玩《宝可梦红》的能力,以此测试Claude对哪些内容值得存入记忆的判断力,这款游戏挑战Claude在复杂的长周期任务中进行导航。在每次运行开始时,我们给每个模型一个记忆文件夹,它可以在游戏过程中读取和写入(图4)。
我们比较了Claude Sonnet 3.7 和 Claude Fable 5 各一次运行中约进行到10,000步时的记忆文件夹。我们注意到的一个关键差异是每个模型认为值得记住的内容。Sonnet 3.7 假设一切都可能重要,因此不加区分地写入记忆。其记忆文件夹中存有遭遇记录档案,通常每场战斗、每件找到的物品、每个遇到的非玩家角色都各有一个单独文件。最终,Sonnet 3.7 在225个文件夹中写入了413个记忆文件,并获得了一枚徽章(徽章标志玩家在游戏中的进度)。
相比之下,Fable 5 在两个文件夹中写入了九个文件,外加一个名为global.md的顶层文件,并获得了四枚徽章。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。