
作者纠正误算:Cursor用户30天处理1.5万亿token实际月成本约50万美元
来源标题:What 1.5T tokens a month will cost you
一名开发者承认此前估算有误:Cursor用户30天处理1.5万亿token的实际成本约为每月50万美元,而非其推文所称每年1.32亿美元。他此前按全价计算所有token,但约97%的token只需支付原价的5%,导致高估约20倍。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
我偶然看到一个 Cursor 的个人资料,30 天处理了 1.5T token,我完全无法理解。这 literally 是我最好月份 27B 的 55 倍,而我还是 24/7 跑 agent 的!
于是我做了任何有抱负的 ai maxi 都会做的事:发推。做了点粗糙的计算后,我说这些 token 一年要花 1.32 亿美元。帖子火了。火到 Theo 专门做了个 30 分钟的视频说我错得有多离谱(我确实错了)。
看那个视频很难受,但弄错并误解更难受,所以我开始了一场任务,搞清楚各个 provider 到底是怎么计 token 费的。
TLDR:按混合费率,1.5T token 一个月大约 50 万美元。
我错了 20 倍,因为我没有考虑缓存。结果发现 agent 大约 97% 的 token 只花五分钱一美分,而我把每一个都按全价算了(我确实留了这个说明,但标题才是卖点)。
我想指出的那个差距被一个糟糕的数字掩盖了,所以我在这里承认我错了,然后继续讲更有意思的部分。
有一类工程师在规模化跑 agent,我甚至无法开始理解,每月成本比一家初创公司的全部工资还高。
实验室工程师和我们其他人之间的这种生产力差距才是我关心的问题,我认为它比 1.32 亿美元那个数字有意思得多,因为希望我们 token maxing 的日子也很快会到来。
但在那之前,让我们了解一下实验室是怎么计算你那堆 slop 的成本的。
类似于无状态服务器,模型没有记忆。每一轮 harness 都会包含完整的消息历史:system prompt、你的请求、它读过的每个文件、它运行过的每条命令。就是一个大数组,每次你发消息就追加。
缓存就是 provider 同意把那部分数据保留几分钟,这样你就不必为它重新读整段东西付全价。
所以当 dashboard 说你用了一万亿 token,它是在汇总四个按不同费率计费的类别:
根据 Cursor 的 Kevin Neilson 在论坛上的说法,Cursor 的 dashboard 和公开资料报告的是这四类的总和。
Lauren 没有说她花了多少,大概也不能说,因为这是一家拥有推理的公司内部数字。下面所有内容都是“按标价这要花多少”,这是像我这样的人唯一能回答的版本。
假设你在用 Opus 5.5(输入 $4/M,5 分钟缓存写入 $5/M,1 小时 $8/M,缓存读取 $0.20/M),你的 agent 上下文深达 500k token。
第一次请求把整个 500k 写入缓存:$2.50(1 小时缓存则是 $4.00)。
之后每一轮重新读取它花 $0.10,加上几美分来归档新的 tool result,每次读取都会重置计时器,所以一个繁忙的会话永远不会过期。
然后你去吃午饭。离开一小时。你还在本地跑 agent,你的电脑休眠了。哎呀。计时器到期,下一轮发现缓存空了,所有 500k token 被重写:又是 $2.50。
agent 会话中昂贵的事件不是读取。是重建。
一次 agent 会话的成本,逐轮计算——Opus 5.5 上 500k token 上下文。读取很便宜。缓存过期后的重建才是账单。$0.50 $1.00 $1.50 $2.00 $2.50 午饭 > 5 分钟空闲 缓存过期 $2.62 —— 整个 500k 上下文按 $5/M 重写(是读取价格的 25 倍)~$0.10–0.13 一轮:500k 缓存读取按 $0.20/M,加上新的 tool result 和回复 第 1 轮 第 60 轮 一次重建的成本相当于 25 个正常轮次。在 1 小时缓存上重写是 $4.00,但只有离开一小时后才会发生。一次 agent 会话的成本,逐轮计算——Opus 5.5 上 500k token 上下文 $1 $2 午饭 $2.62 重建 25 倍于正常轮次 ~$0.10 一轮 第 1 轮 第 60 轮 一次重建的成本相当于 25 轮。
普通输入($4/M)和缓存写入($5/M)对模型来说是同样的工作:它读取 token 并构建状态,两者都一样。
那多出的 $1 是保持该状态存在的存储费。
在 Claude Code 或 Codex 这样的典型 harness 中,几乎所有东西都被缓存。例如,我的 Cursor 账户在数十亿 token 中 literally 只有 2 个未缓存 token。
缓存不发生的一个地方是小请求。OpenAI 不会缓存低于 1,024 token 的前缀,Anthropic 不会缓存低于 512 到 4,096 的(取决于模型)。
所以像“翻译这句话”这样的东西每次都会被处理并丢弃,这是设计使然,因为存储它的成本会超过它能节省的。
Thinking token 在发生的那一刻就按输出计费,按完整输出价格,不因为你从未看到它们而有折扣:在 Opus 5.5 上,一个 3,000 token 的思考花同样的 6 美分,和 3,000 token 的可见回复一样,按 $20/M,价格表上最贵的数字。
所以推理努力越高,每轮花费越多。但 Anthropic 在下一个请求前会把之前轮次的思考从上下文中剥离,所以你永远不会重读自己的推理。
这是一次性收费,不是通过缓存读取复利增长的东西。
因为整个历史每一轮都会回去。在任何给定轮次中,只有最新的 tool result 和最新的回复是新鲜的;其他一切都命中缓存。
一个需要 200 轮的任务会重读其上下文 200 次,所以 token 数量大致随会话长度的平方增长。账单基本不会,因为读取很便宜。
我找到的每一份公开日志都在 97% 左右。我自己的日志根据工具不同也大致如此。
整个错误用一句话概括:我拿了一个 97% 是缓存读取的数字,却把它当作 100% 新鲜输入和输出来定价。
公式就一行,token 数量以百万计:
Cursor Teams 和 Enterprise 在标价基础上额外支付 $0.25/M,这就是为什么他们大概值 600 亿美元。
没有公开证据表明任何一个方向有折扣,而且正如其余部分所示,你不需要折扣来解释这个差距。
Gemini 和 Grok 不收取写入缓存的溢价。第一遍按普通输入计费。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。