Muster Town 用决策队列解决多智能体人类监督瓶颈
来源标题:Engineering human oversight with decision queues
Muster Town 提出用“决策队列”管理 token 支出:所有自主运行的智能体把需要人类输入的事件汇入同一队列,智能体在请求被应答前保持阻塞。该设计把上下文切换负担显式建模为队列属性,以便通过工程手段减轻用户负担,并将队列管理交给一个元智能体负责。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Muster Town 的项目是集体出资的,所以我们希望对 token 的花费负责。在初期只有少量 agent 并行运行时,这很容易做到。然而,随着 agent 数量增加,人类要在 agent 之间来回切换以处理越来越琐碎的决策,认知负担会把人压垮。
本文介绍 Muster Town 如何借助“决策队列”实现对 token 花费的负责任监督。一个好的决策队列应当提升人类决策的吞吐量(这是系统的瓶颈),同时不牺牲责任感。
在 Muster Town 中,每个自主运行的 agent 都会产生一串事件。每个事件都是对人工输入的一次请求,会被追加到一个名为“决策队列”的单一通道中。在人类回答其请求之前,agent 会一直处于阻塞状态。
决策队列这一抽象之所以有用,是因为它把上下文切换的负担显式建模为队列的一个属性。这意味着我们可以通过设计队列的工作方式来减轻用户的负担。我们目前具备的几项能力包括:
管理队列的这些方面成为某个元 agent 的职责,我一直把它叫作“秘书”。本文余下部分将说明这些优化在 Muster Town 中的具体形态。但这份清单并不穷尽……这个抽象的有趣之处在于,它留出了许多可切入的角度。
Muster Town 中的 agent 是半自主运行的。项目的“captain”把 agent 分配到开放式的目标上。与 Claude Code 那样在 agent 的每一轮都向用户请求输入不同,Muster Town 的 agent 只在其生命周期的几个关键点上请求引导。这个生命周期如下:
探索 —— agent 花费少量 token 预算,探索目标、已完成的工作以及可以开展的工作 拨款提案 —— agent 撰写一份拨款提案,其中包含建议的 token 预算、实现计划和可验证的关键结果。然后它向队列发出相应的决策事件(并阻塞等待人工批准) 拨款重写或执行 —— 如果人类要求修改,则更新拨款并重新将决策提交到队列。否则拨款获得批准,并分步执行。 (可选)拨款检查点 —— 如果 token 花费超出预算,agent 会暂停,并提交一个决策事件,询问是否继续以及还剩哪些工作。 拨款完成 —— 如果一切顺利,所交付的内容会进入一个用于通知(而非请求)的旁路通道
拨款之所以有用,是因为它让人能够在风险性动作(例如在一份实现计划上花费大量 token)之前及时介入引导。有意思的是,获批的拨款规模衡量了我们对 agent 能力的信任程度。随着 agent 变得更强,让它们一次承担更大的工作块会更安全。反过来,未能达成关键结果的 agent,大概应该被调校为划定更小的拨款、接受更多监督。
如果我们看到队列上出现太多拨款检查点(因为它们超出了预算),这就成为一个健康度信号,我们可以监控它,并通过更新 token 预算估算流程来作出响应。
在上一节中你可能会注意到,我们并没有把拨款提交到决策队列,而是提交了相应的决策事件。这个区分很重要,因为每种文档服务于不同的目的。
拨款是一种报告。报告的目标是全面。它详细记录已完成或计划要做的事,并附上指向其他相关文档的链接。它主要用于归档,以及供其他需要补齐上下文的 agent 阅读。
决策请求则是有针对性的。其目标是只给人类加载刚好足够的上下文以做出知情决策,然后请求这个决策。在 Muster Town 中,我们认为报告是事实来源,而决策请求是渲染在报告之上的视图。
这一点很容易做错。在创建 Muster Town 时,我们最初的做法是报告里埋着一个请求。后来我们又有了(部分工作的)报告,去请求针对其他被链接报告(比如拨款)的决策。有了决策队列这一抽象之后,这一切都清晰多了。
如果决策请求是渲染出来的视图,那它们凭什么比报告更好?以下是我们想出来或复用的一些做法:
你可能会注意到,这个问题的形态(为一个工作者组织一串源源不断到来的工作)很像单核 CPU 的 CPU 调度。CPU 调度器的目标可能包括(引自 Wikipedia):
这些目标常常相互冲突,一个有趣的思维实验是:设想针对其中一个或另一个目标来优化决策队列,以及我们为什么会选择某个目标而非另一个。这个问题就留给你和未来的我当作练习吧。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。