Cognition为Devin引入分级预算，任务中途超支即停止

把 AI agent 指向一堆待办任务、任其消耗算力而缺乏监管的日子，可能即将结束。Cognition 为 Devin 引入了分层预算功能，让企业能够跨部门、跨项目和跨工程师管理 AI 编程 agent 的支出。管理员可以为不同团队分配预算，追踪每个团队的支出情况，并根据工程效率审批更多额度。不过对开发者来说有个问题：如果 Devin 在执行任务期间预算耗尽，会话就会停止。 如果 Devin 在执行任务期间预算耗尽，会话就会停止。 据在 Cognition 负责市场推广和工程工作的 Lukas Burger 介绍，这一功能源于与客户的对话。“我们做的大部分东西都始于前置部署工程师（FDE），他们与客户在现场一起工作。预算功能直接来自这些对话，”Burger 对 The New Stack 表示。他解释说，当 Devin 从试点阶段走向组织内的更大规模部署后，那些曾经适用于单个团队的粗放控制手段——组织限额、按用户分层以及单独的 Devin Desktop 设置——就不再够用了。

从试点到损益表

Budgets 要解决的问题是规模和蔓延，而不是单纯的价格。“这对一个团队来说没问题。但当一家银行要把一大笔 ACU 承诺分摊到数百个小组时，就行不通了，”Burger 对 The New Stack 谈到旧有支出控制手段时说道。其中一些客户已经开始构建和维护自己的内部工具，只是为了把额度分配给各业务线的负责人，这种变通做法恰好对应了 Cognition 想要填补的空白。 Cognition 与一些全球最大的企业作为设计合作伙伴共同构建了这一功能，在管理数百万 Agent Compute Units 的客户中测试了这一模型——Agent Compute Units 是用于衡量 Devin 所执行工作的基于消费的计量单位。 Burger 对单个客户的具体支出数字守口如瓶，但他清楚地说明了部署范围扩大后会发生什么变化。“Devin 不再属于某一个团队，”他说。“试点可能只落在一个平台组里。大规模推广意味着许多部门，每个部门有自己的优先级和自己的预算负责人。”

预算跟随组织架构

Budgets 的设计思路是配合企业现有的支出管理方式，也就是说，管理员先设定一个总预算，将其划分给各业务单元，然后由这些负责人再把资金分配给自己团队和项目，预算最多可以向下延伸三层。中央 IT 仍然可以看到资金的流向并设定限额，而不必审批每一个请求。“企业自始至终保有护栏和可见性，”Burger 说。 企业也可以为特定项目预留预算，而不是把所有支出都绑定到单个团队。例如，一个大型遗留系统现代化改造项目可以拥有自己的预算，即使有多个部门的工程师参与其中。云端运行的 Devin 和工程师桌面上运行的 Devin 适用不同的控制措施，因此企业可以追踪和限制这两种环境中的支出。

预算耗尽时

其承诺是，这一切都不应干扰工作。“我们设计 Budgets 的方式是让工程师在做事时不用去想它，”Burger 说，其机制会在支出限额中断会话之前向工程师发出警告。 当工程师的用量即将超出限额时，他们会在首页看到提醒，并且可以在不离开产品的情况下向预算负责人申请更多 ACU。每个预算的管理员决定是手动审核这些请求还是自动批准。

按效率给工程师打分

自动化正是这一功能变得尖锐的地方。管理员可以启用基于效率的审批，当工程师的 Efficiency Score 表现强劲时自动提高其限额，上限由管理员设定。Cognition 在 10 月推出了这一评分系统，用于估算相对于 Devin 消耗的有效工程小时数，使管理员能够将更多额度分配给那些似乎能从使用中获得更多有效工作的工程师。然而，该评分只是估算效率，并不直接衡量代码质量或业务成果。 当预算真的耗尽时，会话就会停止，这就是为什么 Burger 将提醒和产品内申请视为第一道防线，而非最后一道。 “我们还在研究让团队在触及软限制后切换到更低成本的模型，以便重要工作能够完成，” “我们还在研究让团队在触及软限制后切换到更低成本的模型，以便重要工作能够完成，”Burger 对 The New Stack 表示。该选项仍在开发中，因此目前提高预算和提前警告是避免中断的最有效方式。 Cognition 同样警惕另一种失败——控制措施收得太紧，反而扼杀了它们本应保护的 productivity。“我们也不希望控制太紧，导致客户无法高效使用 Devin，”Burger 对 The New Stack 表示，这就是为什么公司建议设置留有足够余量的默认值，以免高效用户被不必要地阻断。 他指出，agent 支出中的许多意外“来自不知道用量会落在哪里”，而当 agent 执行复杂的多步骤任务时，仅靠更便宜的 token 可能无法弥合这一差距，一轮降价也并不一定意味着账单变小。

证据在 Pull Request 里

消费定价是一把双刃剑，Cognition 对此心知肚明。“采用消费定价，看不到价值的客户就会停止使用产品，所以我们在成本控制和度量上投入了大量工作，”Burger 对 The New Stack 表示。 “采用消费定价，看不到价值的客户就会停止使用产品，所以我们在成本控制和度量上投入了大量工作，”

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）