返回资讯中心
外部精选
软件工程
#开发者实时流

崩溃后仍能运行的代码模式

来源标题:Code mode that survives a crash

网页正文实际返回的是一段 CSS 变量声明(@property 规则及 --tw-* 自定义属性),并未包含标题所称的「崩溃后仍能运行的代码模式」相关内容。因此无法从原文提取具体事实来撰写摘要。

Hacker News 最新tosh2026/11/12 · 5 天前30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

大多数 agent harness 运行工具的方式都一样。模型请求一次或多次调用,harness 执行这些调用,每个结果都会在模型进入下一轮之前写入上下文。当这些调用相互独立时,并行调用可以缩短这个循环。但当下一次调用依赖于上一次调用的返回结果时,并行调用就帮不上忙了。

代码模式改变了这一点。模型编写一个脚本来调用这些工具,只有脚本的输出会返回。中间数据留在脚本里。在本文后面的小实验中,这就是主要收益:在 Pi coding agent 中,到达模型的工具输出少了很多。

下面是一个列表查询,它接着触发一次详情查询,先用直接调用运行,然后用代码模式运行:

但当事进程在脚本执行到一半时挂掉,这个脚本会怎样?在 Pi Durable 中,它会恢复,已经完成的工具调用不会再次运行。

我之前研究过 Pi Durable 如何把提交视为关键单元:对话记录、任务和文档要么一起保存,要么全都不保存,因此你看到的就是已保存的内容。代码模式让这个想法经受考验,因为脚本是进行中的工作,提交也必须覆盖它。本文涵盖:代码模式是什么、代价是什么,三个 harness 如何实现它,一个小实验,Pi Durable 如何在崩溃后重放脚本,针对该重放的崩溃测试,以及我会在什么时候使用它。

代码模式是一种运行工具的方式,模型编写脚本,宿主机在沙箱中运行它。脚本以函数形式调用工具,只有它的输出回到模型。

支持它的理由是,模型在针对 API 编写代码方面,比一次一个地进行工具调用更擅长。现在已有多个 agent harness 提供代码模式,包括两个最流行的开源 harness——Pi 和 OpenCode。

更少的上下文。脚本可以在代码中过滤、连接或统计中间数据。这些数据留在脚本里,模型只看到答案。

无需往返的链式调用。模型已经可以进行并行工具调用,因此并行并不是优势所在。优势在于链式调用:一个调用的结果直接供给下一个,无需回到模型。

更小的工具定义。连接许多 MCP 服务器时,仅工具定义就可能在模型读取请求之前占用数万个 token。代码模式可以通过将定义作为文件浏览或搜索,只加载它需要的定义。这种节省取决于你有多少工具。我的实验只有两个 MCP 工具,在两个 harness 中,代码模式工具都让第一个提示变得更大,而不是更小。

沙箱化。你现在运行的是模型编写的代码。宿主机必须决定这段代码能访问什么,而运行沙箱是直接工具调用可以避免的运维开销。下面的实现在这方面做出了非常不同的选择。

每次调用都需要审批。在敏感工具调用之前询问人的宿主机,现在必须在脚本中间暂停,因为一个脚本可以调用许多工具。等待人的脚本也是必须在等待期间存活的脚本。

半途而废的工作。使用直接调用时,模型可以在下一步从糟糕的结果中恢复。脚本做不到这一点。它会按照模型编写脚本时的假设一直运行到结束,如果该假设错了,它就会中途失败。例如,模型可能在一小部分项目上测试脚本,看到它能工作,然后在完整列表上运行它,而服务器对返回的项目数量设了上限。到那时,一些调用已经完成,一些还没有,harness 必须决定剩下的怎么办。

重启。脚本是进行中的工作。如果进程在脚本执行中途挂掉,必须有东西决定接下来会发生什么。本文的剩余部分就是关于这个问题。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →