返回资讯中心
外部精选
软件工程
#开发者实时流

企业为员工设AI token预算以控制成本

来源标题:Token Budgets

一些公司开始为员工设置每月AI token使用预算,以应对前沿模型高昂的使用成本。超出软性限额会收到提醒,员工可提前申请增加配额,避免触发硬性上限。公司希望此举促使员工节约AI用量、用更少token完成更多工作。

Hacker News 最新speckx2026/11/18 · 今天12 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

前沿 AI 模型即便对谨慎的用户来说也会迅速变得昂贵,这已不是秘密。一些公司用 token 预算来应对这一挑战。员工发现自己每月能花的额度有限,或者对某些模型的访问可能被缩减。公司希望这能促使员工节约 AI 使用量,想办法用更少的 token 做更多的事。这真的能引导出正确的行为吗?

我从几个熟人那里收集了一些信息,他们在各种大大小小的公司工作,这些公司都处于限制每位员工 token 支出的不同阶段。假设公司给员工一个月度 AI token 预算。员工在月中就用完了预算。现在他们有哪些选择?有些公司采用软/硬限制,在硬限制生效之前会先警告你已越过软限制。这让员工知道自己有触及上限的风险,并且能在撞上硬限制之前申请更多配额。这仍然是官僚程序,但至少不会立刻变成阻塞。

想象你是一名有 token 预算的员工。如果你知道自己的 token 预算有限,你会优先做哪些工作?这在很大程度上取决于公司如何评估你的工作。让我们设想一位名叫 David 的员工。他是一名软件工程师,所在的开发团队负责为某个应用添加功能并修复该应用上的 bug。David 的经理评估他与团队合作推出下一版产品的情况。如果 David 知道自己有 token 预算,他会优先做什么?如果 David 知道自己有触及 token 预算的风险,而这可能妨碍他达成工作绩效目标,他会有多优先去为同事做代码审查,或修复分配给他之外的问题?有些员工可能会做这些事,因为他们知道这些间接行动有益于团队,帮助每个人成功。然而,在一些大型组织中,即使你的团队达成了目标,这可能让你个人落后。

一些朋友告诉我,在他们公司,token 预算有时会促使人们只做被要求做的事——不多做一点。生产代码重构和测试套件清理完全可以手工完成,但如果它们不在你的绩效评估范围内,而且可能让你超出 token 限制,它们很可能就被搁置、任其恶化。

一些设定 token 预算的公司提供培训,或鼓励员工分享他们如何限制 token 支出。上手一个编码工具、选一个昂贵的模型(这往往是默认选项!)、然后在不知不觉中烧完预算,实在太容易了。我经常听人说达到某个模型的一百万 token 上限并遇到强制压缩。员工确实需要培训和示例,了解如何更高效地使用 token。(我还需要写一篇关于这个主题的文章。)

告诉人们“直接用 agent”很容易。这更多是一种思维方式的转变,而非技术变革。公司也需要为员工提供不止一个经批准的编码工具。Claude Code 和 OpenAI Codex 很棒,但员工可能会在 OpenCode、goose 或 pi 上获得更高的生产力提升。公司内部也应该有地方让使用各种工具的員工分享他们高效的模式。

我们有过!我记得早期部署公有云基础设施的日子,感觉从一开始就是一场混战。当人们摆脱了物理硬件和资本支出的束缚,云部署像野草一样疯长。一切光速推进,直到……账单来了。还记得 FinOps 吗?它源于公司需要保持快速部署云基础设施的同时不超支。团队突然开始从各种途径寻找成本节约:没有哪一样是一夜之间解决的。我们都不得不了解钱花在了哪里、哪里超支了、有哪些少花钱的选项。我们所有人都至少有一次为工作负载选错了实例规格。网络连接演变成更复杂的私有(不计费)网络蜘蛛网。我们大多数人尝试过多云,并且惨败。😂

减少 AI 支出需要我们像当初学习云部署那样去学习:我希望 token 预算总能附带这种教育成分。否则,随着软件开发世界迭代得越来越快,这会给员工带来更大压力。我很快会发一些文章,讲讲我过去一年用过的一些策略。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →