研究：训练让AI智能体更善于利用文本笔记提升表现

训练会放大文本记忆的优势，使智能体更智能、更具成本效益且更稳健。

持续学习不仅仅是内化新知识——它关乎学会利用手边可用的记忆系统。文本记忆，如笔记、wiki 和技能文件，是当今智能体积累知识的主要方式。但仅有好的笔记还不够；你需要知道如何善用它们。训练让智能体得以磨炼判断力，使它们知道笔记适用于什么、该读哪些笔记，以及何时用一手资料来补充笔记。本文研究训练与文本记忆如何相互叠加，使智能体更智能、更具成本效益且更稳健。

我们在一个简单设定中研究文本记忆与训练的相互作用：给模型一组固定的高质量笔记和一个经过优化的提示词，然后用强化学习对其进行训练。通过学习使用笔记，模型取得了显著提升——在我们的各项基准上，准确率提高了 7 到 20 个百分点。经过训练的模型在拥有相同笔记的情况下，既优于未训练的对应模型，也优于前沿模型。

结果还表明，训练成本大约只有构建一套好的文本记忆系统的 5% 到 30%。而且，由于训练后的模型在推理时每次查询的成本低于准确率相近的前沿模型，训练成本会分摊到各次查询上，几天内即可收回。

最后，笔记是动态的——智能体会不断探索，并用所学到的东西更新笔记。然而，经过训练的模型对这些变化表现出惊人的稳健性。一个仅在初始版本笔记上训练过一次的模型，在经历 2300 万 token 的文本编辑后，仍然优于未训练的模型。模型学到的是使用笔记的通用策略，而不是过拟合笔记内容，因此不需要在每次编辑后重新训练。

综合来看，这些结果表明训练会放大文本记忆的优势。未来的智能体不仅会读写笔记，它们还将学会记忆。

图 1：实验设置

Harness

RL 期间固定Notes notes/ onboarding-notes.md第 2 轮当前文档engineering-onboarding.md上一版文档developer-setup.md已于 2026 年 9 月 1 日被取代变更：Python/依赖在容器中运行。未变：本地 Git/编辑器；冒烟测试套件。原始文件 files/ developer-setup.md已过时在你的笔记本电脑上：python -m venv .venv .venv/bin/pip install -r requirements.txt engineering-onboarding.md第 5 轮在开发容器中打开仓库。uv sync --frozen uv run python --version uv run pytest tests/smoke RL 训练

我是一名新工程师。我应该遵循哪些设置说明，哪些已经过时？

Agent

更新模型权重…

第 2 轮Notes找到当前版本以及变更内容读取 notes/onboarding-notes.md … 第 5 轮原始文件阅读设置和验证细节读取 engineering-onboarding.md … 最终答案

使用 engineering-onboarding.md 中的方案。 developer-setup.md 中的本地 Python 步骤已过时。 Git/编辑器保留在本地；在容器中运行设置和检查。

工作区与任务。我们在三个工作区上进行评估。

Harvey C&H 是我们上一篇文章中介绍的合成律师事务所，约有 1 亿 token，涵盖客户事务，包括电子邮件、备忘录、法律文书和电子表格。任务要求在该律所过往工作中进行搜索，例如查找获得监管批准的 antitrust 事务并定位相关支持文件。我们报告该基准一个包含 125 个问题的子集上的结果。1

与我们上一篇文章不同，我们报告的是留出子集上的结果，因此数字不能直接比较。

Hex Shorelane Commerce 是一家合成办公用品企业的数据仓库，其标识符和定义存在符合现实的不一致。我们在 DataBench2 上评估，这些数据分析任务要求在应对这些不一致的同时查询仓库。示例包括解释各销售渠道的趋势，以及根据历史数据决定是否批准增加付费媒体支出。

我们的 harness 与 DataBench 的不同，因此我们的分数不能直接与其在线排行榜比较。

起点。我们在 Harvey C&H 和 Engram Internal 上使用 Qwen 3.8 27B，在 Hex 上使用 GLM-5.3-Flash。智能体在 Pi harness 中运行，可访问工作区及其笔记；在 Hex 上，仓库通过 Hex 的 MCP server 访问，而不是文件系统。

除非另有说明，笔记由一个独立的笔记构建智能体使用我们的内部配方，配合 Claude Sonnet 和 Haiku 编写。我们训练的智能体从不写笔记；它只读取笔记，使用由 GEPA3 优化的系统提示词。我们的基线是这一智能体，配备笔记和优化后的提示词，未经过任何训练。

GEPA：Reflective Prompt Evolution Can Outperform Reinforcement Learning (Agrawal et al., 2026)

训练。本文使用一个简单设置：RL（GRPO4）配合 LoRA5，在与评估集不相交的训练任务上进行。奖励结合了任务准确率与成本惩罚，改变其权重 λ 可得到在准确率和效率之间不同平衡的模型。训练期间，harness、工作区、笔记和系统提示词保持固定；只有模型被更新。

DeepSeekMath: Pushing the Limits of Mathematical Reasoning in Open Language Models (Shao et al., 2024)

LoRA: Low-Rank Adaptation of Large Language Models (Hu et al., 2022)

图 2：使用文本笔记进行训练可提高准确率和效率

基础模型基础模型 + 笔记使用笔记训练

Harvey C&H

准确率与每次查询平均 rollout token 数的关系。切换各点可查看数值；绿色点还显示成本惩罚。准确率60%70%80%030k60k90k 每次查询的 rollout token

Hex DataBench

准确率与每次查询平均 rollout token 数的关系。切换各点可查看数值；绿色点还显示成本惩罚。10%20%30%40%10k15k20k25k 每次查询的 rollout token

Engram Internal

准确率与每次查询平均 rollout token 数的关系。切换各点可查看数值；绿色点还显示成本惩罚。70%80%90%60k80k100k120k

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）