
Desplega Labs将53%的token支出转向脚本
来源标题:We shifted 53% (+$17k) of our token spending to scripts
Desplega Labs把53%的token支出改为走脚本,一个月省下1.7万美元、450个agent小时。该公司联合创始人Ezequiel Cura指出,Agent Swarm中的大部分工作都是重复性的,应重点解决如何避免重复做同一件事。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
回到写作2026年11月6日·7分钟阅读Ez.-Ezequiel CuraDesplega Labs 联合创始人GitHub博客LinkedInX + the swarm 我们将53%的token支出转移到了脚本上 一个月下来,这省下了1.7万美元,并节约了450个agent小时 过去几周,我们注意到一个令人担忧且不断增长的趋势:随着agentic工作流增长,订阅越堆越多。事实上,我们一直在与一些人交流,他们最多运行着十三个Claude Ultra订阅来跑agent,还有一批并行会话,依赖一个昂贵的编排器来防止冲突。 在这种配置中,我们见到使用最多的编排器是Gas Town。它是这一概念较早的迭代版本之一,其作者Steve Yegge在承认维护成本与收益相当甚至更大之后,已经将其关闭1。和往常一样,大多数人决定忽略这最后一点。话虽如此,它的工程设计确实不错:beads帮助跟踪状态,调度器心跳确保你不会超出套餐的速率限制。这些都是真实的问题,但聚焦在了错误的挑战上: Agent Swarm中的大部分工作都是重复性的。 这才是你应该投入精力的地方:如何避免同一件事做两遍?我们都已经知道的答案也很简单:软件。生成式AI在处理前所未见的任务时表现出色,但作为cron job运行时,它在时间和金钱上都极其昂贵。这正是成本飙升的原因。 Ultra每月标价200美元,乘以13,就是每月2,600美元。如果其中80%是重复任务,那你实际上因为自己系统的懒惰白白送出了约2千美元。除此之外,你还没有把AI用在它最擅长的地方:写代码。 最后,还有一些特定模型,无论是SLM还是SystemOne的模型,在时间和成本上更高效,同时准确率相当或更好。一旦你识别出重复任务,也可以利用它们来回答那些反复出现的问题。这又带来了另一层收益。 我们也买订阅。区别很简单:我们从重复性工作中学习。 在过去30天里,我们的agent在16,879个会话中花费了相当于1.56万美元的模型调用费用。如果我们没有内置这些系统和脚本工作流,成本大约会是3.26万美元(约2倍)。 那1.7万美元代表了约450个agent小时,这也意味着我们用更少的计算更快地得到了结果。所以还有第二层:我们可以用更便宜的基础设施来运行我们的系统。看下面的图表时,请特别注意那个比率。那才是关键。 反事实是:将自动化工作换回agent任务后的swarm账单,而不是同一时间窗口的重跑。 你的工作流越多,你或你的AI识别出的结构性重复工作就越多。那就是你的节省机会。如果你每天有足够多的任务,靠人力来跟踪这些是不可能的。这时dreaming就派上了用场。不过,无论你用什么方式,节省都体现在工作流中。 事实上,开放式工作流节省最多。这有点反直觉。例如,我们的self-driving goal-driver工作流节省了1,057美元。这取决于你运行它们的频率,以及你对它们的要求。对于我们的goal-driver,如果上下文是可以确定性地收集的,那么所有工具和mcp交互成本就立即消失。我们花了大约100次运行才达到这个状态,接下来的700次运行贡献了全部节省。 另一个不言自明的教训是:我们付费买的是判断力。生成式AI擅长引入第一层判断,它节省时间,我们愿意一试。这就是你的订阅所支付的。 它自己的上下文 · 它自己的订阅席位 它自己的上下文 · 它自己的订阅席位 它自己的上下文 · 它自己的订阅席位 做出决策,然后开启新会话 状态被写入git,以便下一个会话能找到它 / 工作流 脚本 / 工作流步骤 单次运行记录保存状态 回到调度触发器 同一队列,同一节奏左侧:按token计价右侧:按计算计价 同一个队列,两种运行方式。左边,每个决策一个会话,每个会话都重建它需要的上下文并为此计费。右边,决策只做一次,并封装在重复执行零成本的代码中。 我们的swarm成本大致分为三部分:工作流6,300美元、定时脚本5,400美元,以及用于任意任务的脚本5,000美元。节省最多的十个脚本中有八个来自每小时运行一次的作业。 很明显,对吧?一个工作流运行得越多,你越聪明地对待它,节省就越多。 上限按作业计算,而不是按swarm计算。每天运行1次这个点在模型输出中是“一天一次”。 ops是等待的I/O调用数,即脚本中的await调用数。 模型节点计为1。 门控和等待计为0。 2是基线引导任务成本。 0.275是基于我们历史数据的近似值。我们的Agent Swarm会根据你的具体配置调整这个常数。 session_cost是来自12,574个真实opus 5.5会话、上限为61轮的等效平均API成本 R = 1.02用于覆盖重试和失败 最后,lead review每个任务0.107美元,这是从2,324个任务上的745次跟进中测得的。 纯agent数字包含0.107美元的lead review;实际值是工作流每次运行自身的模型花费。 作为参考,我们的pr-fix-loop运行100个ops,平均29.5轮。最终结果比使用Opus 5.5便宜25倍。 如果你和我们一样,你会想知道我们的近似在哪里失效。为此,我们检查了五次迁移,在不使用模型的情况下对两边都进行了测量。 注意pr-review-status-sweep上升了。所以是的,在某些特殊情况下,你会看到成本增加。还有工作要做,但总体而言,节省是压倒性的。 Dreaming就是完美的反例。每晚27个agent任务,每次运行13.95美元。自动化只能替代这么多。相比它所替代的版本,成本只降低了6%。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。