返回资讯中心
外部精选
软件工程
#社区热议

Letta与UC Berkeley提出基于睡眠时间计算的AI智能体记忆整理机制

来源标题:The Components of Agent Memory

Letta与UC Berkeley研究人员提出「睡眠时间计算」,让模型利用交互间隙的闲置时间重组已有上下文,借此整理智能体记忆。智能体平时将工作记录在日志或对话记录中,模型可在空闲时回看这些日志,修正错误并生成新的笔记与表示。这种方式借鉴了人类大脑在睡眠和安静休息时由海马体回放经历、逐步将记忆巩固进新皮层的分工。

Hacker Newsgeoffbp2026/11/7 · 今天30 分钟阅读

以下正文由 AI 翻译自 Hacker News(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Søren Kierkegaard曾写道,生活只能向后理解,却必须向前生活。在为AI agent设计记忆时,我们也遇到了类似的困境。

作为人类,我们在日常生活中不断编码记忆。海马体在其中扮演核心角色,它实时捕捉经历,使记忆快速形成并可即时调用。但只有部分经历会被巩固为长期知识。

这种巩固很大程度上似乎发生在我们大脑离线的时候。在睡眠和安静休息期间,海马体会重放近期的经历。据认为,这一过程会逐步提炼这些经历,并将其整合到新皮层——即大脑中储存我们所认为的大部分知识的部分。

Agent记忆也可以采用类似的分工。Agent将大量工作记录在日志或对话记录中。Letta和UC Berkeley的研究人员提出了sleep-time compute,让模型利用交互之间的空闲时间重新组织已有的上下文。同样的思路可以帮助agent通过反思日志来组织记忆,修正错误或生成新的笔记和表示。这一过程通常被称为dreaming(图1)。

我们发现,dreaming是帮助Claude获得有效记忆的有用工具。在本文中,我们分享我们对agent记忆的思考方式,并介绍我们用来探索agent记忆的若干评估,包括dreaming的使用,以及每个组件对记忆组织的贡献。

所谓“agent记忆”,我们指的是Claude从经验中获得的知识——包括与用户的交互以及被分配的任务——并在会话之间保留下来,保存为之后可以读取的上下文。它不包括模型学习或管理上下文的其他方式,例如权重变更(训练期间设置的内部参数)、in-context learning(单次对话内获得的知识),以及compaction(Claude撰写的摘要,用于替换较早的对话轮次,以便在新的上下文窗口中继续工作)。

在人脑中,经历之前、期间或之后释放的化学信号可以将一段记忆标记为重要。被标记的记忆在离线期间往往比未被标记的记忆更频繁地被重放。这一过程称为replay,有助于稳定记忆并将其整合到长期记忆中。

类似地,Claude可以在会话日志中实时标记显著事件,以便之后更容易找到,也可以将它们写入记忆存储,例如一个记忆笔记文件夹(图2)。但Claude如何在当下、在还不知道后续发展的情况下判断什么是显著的?

记忆有时是一种预测。通过写下一条规则,agent预测它所描述的模式将再次相关。例如,写下一条经过验证的事实,就是预测未来会话中的agent会希望依赖该事实而无需再次核实。随着时间的推移,Claude在这类预测方面已经变得更加出色。

以Continual Learning Bench(CL-Bench)1.0中的一项任务为例,该基准衡量agent利用记忆处理长周期任务的能力。其中一项任务要求Claude通过在数据库中查找信息来回答一系列问题。Claude给出答案后,会被告知正确答案,并可以写一条记忆来帮助回答未来的问题。

记忆可以在这里支撑一个学习循环。如果Claude答错了一个问题,它可以记录失败,提出关于出错原因的理论,检验这些理论,并将发现转化为关于未来如何回答的规则。

我们使用Claude Managed Agents运行了CL-Bench 1.0任务。Claude每个问题都在全新会话中开始,只有一个例外:它可以从一个跨会话持久化的记忆目录中检索文件。

不同模型在创建自己的学习循环方面取得了不同程度的成功。Claude Sonnet 4.6做到了对答案错误原因生成理论的程度。它的记忆目录中散落着若干文件,每个文件列出几个未经检验的猜测。

Claude Opus 4.7将笔记整合为一份参考文档,并开始标记哪些事实已经核实、哪些尚未确认。Claude Sonnet 5在评分器检查后标记每个答案为已确认,并在答错时写下更正。

Claude Opus 5是这些模型中第一个闭合学习循环的。它的大多数条目都包含一条规则(以及它如何知道该规则为真)、对先前问题的答案,以及对沿途发现的陷阱的明确警告(图3)。

与Opus 5一样,Claude Opus 5.5和Claude Sonnet 5.5也都闭合了循环,利用记忆捕捉关于如何最好地回答未来问题的经过验证的规则。借助记忆,两者的得分与Opus 5大致相同,尽管它们在没有记忆时的基线表现略高。

我们还评估了Claude玩Pokémon Red的能力,以此测试Claude对哪些内容值得保存到记忆中的判断力,这款游戏考验Claude在复杂长周期任务中的导航能力。每次运行开始时,我们给每个模型一个记忆文件夹,它可以在游戏过程中从中读取和写入(图4)。

我们比较了Claude Sonnet 3.7和Claude Fable 5各一次运行中约进行到10,000步时的记忆文件夹。我们注意到的一个关键差异是每个模型认为值得记住的内容。Sonnet 3.7假设一切都可能重要,并 indiscriminately 写入记忆。它的记忆文件夹包含一个遭遇档案,通常为每场战斗、每个找到的物品和每个遇到的非玩家角色各建一个单独文件。最终,Sonnet 3.7在225个文件夹中写入了413个记忆文件,并赢得了一枚徽章(徽章标记玩家在游戏中的进度)。

相比之下,Fable 5在两个文件夹中写入了九个文件,外加一个名为global.md的单一顶层文件,并赢得了四枚徽章。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →