返回资讯中心
外部精选
软件工程
#开发者实时流

UC Berkeley与微软推出TokenEconomizer,编程代理成本降低18-31%

来源标题:TokenEconomizer: Cut coding-agent token costs 18-31%

UC Berkeley与微软研究院等机构提出TokenEconomizer,在SWE-Bench任务上将五种代理-模型组合的平均成本降低18.4%至30.9%,且在全部30个仓库与组合单元格中均更便宜,5个组合中有4个Pass@1提升。该工具作为Claude Code、Codex、GitHub Copilot CLI等代理的插件运行,从代理在仓库中已运行的会话中学习以减少后续浪费,且不改变代理本身。

Hacker News 最新mehdizare2026/11/4 · 2 天前30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

TokenEconomizer:将编程智能体的 token 成本降低 18–31%

Aaron J. Li1、Weijia Xu2、Chandan Singh2、Zixiao Chen3、Jeevana Priya Inala2、Charlotte Siska3、Acar Tamersoy3、Bin Yu1、Ion Stoica1、Michel Galley2、Jianfeng Gao2 1UC Berkeley   2Microsoft Research   3Microsoft Security 我们在 SWE-Bench 任务上的测量结果:在五种 agent–model 组合上,平均成本降低 18.4–30.9%;在全部 30 个仓库 × 组合单元中都更便宜;Pass@1 在 5 个组合中有 4 个上升。结果

TokenEconomizer 让你经常工作的仓库中的编程智能体运行成本更低,而且无需改动智能体本身。它会从智能体已经在某个仓库中运行过的会话里学习,并利用这些经验削减后续会话中的浪费。它包含三种机制:

TokenEconomizer 是 Claude Code、Codex、GitHub Copilot CLI 和 Pi 的插件,并对 opencode、Cursor Agent 和 Hermes Agent 提供实验性支持。上面每个斜体字母都是一个设置项,显示时附带默认值(Settings),每个机制都可以单独开启或关闭。插件会用一行文字宣告每个动作,如果其中任何部分失败,你的会话会像未安装它一样继续进行。它的模型调用(fact proposer,以及带有其撰写重定向的 judge)通过你自己的智能体、使用同一套餐或登录方式运行,其成本也计入它的报告。它学到的内容保留在你的机器上,位于 ~/.tokeneconomizer。

论文在来自六个仓库的相同 277 个 SWE-Bench 任务上运行了五种 agent–model 组合。每个任务作为独立会话运行,每个仓库的任务按顺序运行,且初始时没有任何已学习内容。成本包括 TokenEconomizer 发起的每一次模型调用。在每个仓库和组合内,成本下降 5–40%。这些节省在 Web-Bench 上同样成立(降低 16–21%),也在两个安全审计基准上成立(降低 6–20%),后者的每个任务都在一个新仓库中。项目页面有交互式图表、按仓库划分的数字和九个带注释的运行记录,experiments/ 可重新运行 SWE-Bench 和 Web-Bench 实验。

编程智能体的设计目标是完成任务,而不是让任务保持低成本。每一轮都要再次为智能体的指令、每个已加载的工具以及到目前为止的对话付费。开发者会在同一个仓库上反复使用同一个智能体,因此其中大量成本会重复出现:同样的事实被反复重新发现,同样未使用的工具被反复发送,同样类型的失败循环反复发生。TokenEconomizer 不改动智能体的模型、权重和代码,而是在一个仓库的多个会话之间学习,而不是把每个会话单独对待,因此插件花费的一切都会在后续会话中得到回报。四项原则指导这些机制:

你需要具备这些智能体之一,并以它支持的任何方式登录,同时 PATH 中需要有 Python 3.10 或更新版本。插件不需要自己的 API key,也从不处理凭据,因此任何套餐或登录方式都可用。

在你希望保留克隆的文件夹中运行这些命令。Claude Code、Codex、Copilot CLI 和 opencode 会从克隆目录运行插件,因此请将其保留在原位。然后在你自己的某个仓库中启动智能体。 git clone https://github.com/microsoft/TokenEconomizer.git claude plugin marketplace add "$PWD/TokenEconomizer" claude plugin install tokeneconomizer@tokeneconomizer 启动 claude,信任该文件夹(Yes, I trust this folder),然后运行 /tokeneconomizer:status,如有提示则允许其脚本运行。每台机器执行一次,并在 Claude Code 更新后再次运行 /tokeneconomizer:toolprune refresh-catalog。 git clone https://github.com/microsoft/TokenEconomizer.git codex plugin marketplace add "$PWD/TokenEconomizer" codex plugin add tokeneconomizer@tokeneconomizer 启动 codex,为该文件夹选择 Trust and continue,然后在 Hooks need review 处选择 Trust all and continue。钩子从你的下一个 Codex 会话开始生效,因此请退出(/exit),再次启动 codex,并用 $tokeneconomizer:status 检查。 git clone https://github.com/microsoft/TokenEconomizer.git copilot plugin marketplace add "$PWD/TokenEconomizer" copilot plugin install tokeneconomizer@tokeneconomizer 启动 copilot,选择 Yes, and remember this folder for future sessions,然后运行 /tokeneconomizer:status,选择 Yes 以运行其脚本。每台机器执行一次,并在 Copilot 更新后再次运行 /tokeneconomizer:toolprune refresh-catalog。 pi install git:github.com/microsoft/TokenEconomizer 启动 pi 并运行 /te status。 python scripts/build_plugin.py --out ~/.cursor/plugins/local/ 重新加载 Cursor,确认 tokeneconomizer 出现在 Customize 中,然后在某个仓库中发送一条 prompt。从终端用 ~/.tokeneconomizer/bin/te --host cursor status 检查其状态。Cursor 已发布的钩子提供 session、prompt、tool-result 和 completion 事件。其 transcript 格式和每会话 token 用量并非受支持的公开接口,因此适配器会在本地记录所需的钩子事件,并将会话成本报告为不可用。Cursor 支持仅限 macOS 和 Linux:在 Windows 上,Cursor 通过 PowerShell 运行钩子命令,而本插件的启动器是 POSIX shell 脚本。 git clone https://github.com/microsoft/TokenEconomizer.git mkdir -p ~/.config/opencode/plugins ln -s "$PWD/TokenEconomizer/plugin/opencode/tokeneconomizer.ts" ~/.config/opencode/plugins/ 启动 opencode 并发送一条 prompt,然后在仓库中用 ~/.tokeneconomizer/bin/te --host opencode status 检查。opencode 没有插件命令,因此插件的命令从终端运行。 Hermes Agent(实验性;micro-skills 和 loop guard,适用于经典 CLI 和一次性运行) git clone https://github.com/microsoft/TokenEconomizer.git ln -s "$PWD/TokenEconomizer/plugin/hermes" ~/.hermes/plugins/tokeneconomizer hermes plugins enable tokeneconomizer hermes gateway restart 请以链接方式接入,而不要运行 hermes plugins install——在给定该目录时,后者会留下启动器,并在其安全扫描中拒绝整个仓库。发送一条 prompt,然后在仓库中用 ~/.tokeneconomizer/bin/te --host hermes status 检查。 如果安装成功,status 命令会打印一个简短的状态块。refresh-catalog

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →