
Revolut 将 GLM 设为默认编程模型,成本降至约十分之一
来源标题:GLM Models Cut AI Coding Costs 90% for 2k Engineers
Revolut 已将自托管的中文开源权重模型 GLM 设为编程默认模型,把 Claude Code、Codex 等前沿 API 降为例外。其 AI 负责人 David Abitbol 称,用 56 块 Nvidia B200 运行 GLM,每百万 token 混合成本约 30 美分,约为原先付给 Anthropic 和 OpenAI 的十分之一,工程交付周期还缩短了 70%。该行还通过固定 GPU 数量、调优推理参数,将首 token 时间从逾 10 秒降至约 1.6 秒。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Add preferred source24 欧洲估值最高的私营公司 Revolut 已将自托管的中国开放权重模型定为编码默认方案,并把 Claude Code、Codex 等前沿 API 降为例外清单。据该银行 AI 运营负责人 David Abitbol 介绍,在 56 块 Nvidia B200 上运行 GLM,混合成本为每百万 token 30 美分——约为 Revolut 此前向 Anthropic 和 OpenAI 支付费用的十分之一——同时工程交付周期改善了 70%。运营层面的故事比 headline 数字更重要:从 2026 年 4 月到 8 月,Revolut 保持 GPU 数量不变,转而调优推理参数而非采购更多硬件,将首 token 延迟从 10 秒以上降至约 1.6 秒,在需求增长 76% 的情况下实现了 88% 的性能提升。Abitbol 还给出了一套合规操作手册,让一家受欧盟监管的银行无需将推理流量发送到中国即可运行中国模型:只下载权重,托管在美国、欧盟、英国或以色列,并在人在环沙箱内运行一切。对投资者而言,这份报告是一个信号:廉价 token 时代正从底层到来——而前沿模型定价的持久性,建立在 Revolut 已经不再做出的假设之上。关键要素 RevolutDavid AbitbolGLMZ.aiNvidia B200AnthropicOpenAIClaude CodeCodexGeminiOpenCodeDeepSeekGoldman SachsMenlo Ventures Revolut 在 45 个市场服务 8000 万客户,2026 年 7 月完成的一笔二级市场股票出售对其估值 1150 亿美元,使其成为欧洲估值最高的私营公司。据其 AI 运营负责人称,该公司目前在 AI 编码 token 上的花费约为过去向 Anthropic 和 OpenAI 支付费用的十分之一。David Abitbol 在 AI Engineer 播客上表示,运行自托管 GLM 模型的混合成本为每百万 token 30 美分——而这一个数字正在悄然改写一家受监管银行采购人工智能的方式。 引人注目的不是折扣本身,而是 Revolut 通过“做得更少”实现了它:GPU 数量少于工作负载看上去所需的量,上下文短于模型宣称的能力,精度低于硬件允许的水平,权限少于自主 agent 想要的范畴。事实证明,约束而非容量才是杠杆。 Revolut 的数据来自对 2000 名工程师约一年的跟踪样本,这使其不同寻常——大多数部署 AI 助手的企业都没有干净的前后对比。 第一次推广是 2025 年 1 月的 Gemini,交付周期改善了 10%,编码时间改善了 20%。Abitbol 将编码方面的提升归功于工程师不再需要翻 Stack Overflow 和文档。Claude Code 于 2025 年 2 月左右试用,2026 年 1 月大规模上线,但起初几乎没有可衡量的影响——而且成本令人咋舌。工程师每月花费 1000 到 10000 美元,回报却很低,因此推广时附带了严格的预算上限。 从 2026 年 4 月左右开始自托管开源模型改变了局面。彼时的 GLM 5.1 使编码时间改善 60%,交付周期改善 70%。 这种不对称才是洞见所在。更大的收益落在交付周期而非编码时间上,因为写代码从来不是瓶颈。“我们发现工程的瓶颈未必是编码,”Abitbol 说。“不必翻收件箱、不必折腾 Jira 和 Confluence,就能省下大量时间。” 还有一个不会出现在表格里的二阶效应。当 token 实际上无限时,工程师不再配给使用——不再把昂贵工具留到季度末或最难的任务——而是开始把它用于一切。Abitbol 现在的姿态很直白:开源是优先项,账单固定,没有月度账单冲击,前沿模型是例外。Codex、Claude Code 和 Gemini 仍留在工具箱里应对最难的问题,但它们不再是默认选项。 基础设施的算术具体得令人耳目一新。为 2000 名工程师在 GLM 5.3 上提供服务大约需要 56 块 Nvidia B200。该模型是混合专家设计:总参数约 7500 亿,但每个 token 仅激活约 400 亿。这一区别对账单很重要——集群必须容纳全部权重,而每个生成的 token 只动用其中一小部分,这正是 56 块 GPU 能为 2000 名工程师维持交互延迟的原因。 Abitbol 的延迟目标是经验性的而非理论性的。目标是首 token 延迟低于三秒,因为超过五秒“我的 Slack 收件箱就开始炸了”。吞吐对交互性没那么重要:每秒 200 token 就够了,因为工程师现在并行发起任务,完成后回来查看,而不是盯着思考 token 流式输出。下午 5 点后接入的工程师——此时 GPU 空闲——可获得每秒 800 token。 然后是账单。“自托管 GLM,我们的混合 token 成本是每百万 30 美分,所以账单是依赖 Anthropic 和 OpenAI 时花费的十分之一,”他说。 分母值得估算一下。一台配置好的八 GPU B200 服务器某集成商标价约 390,700 美元,因此 56 块 GPU 在电力和网络之前大约代表 270 万美元的硬件。按主流云厂商 10 月收取的每 GPU 小时 6 到 8 美元租用,同样的 56 块卡每月将花费 245,000 到 327,000 美元——约合每名工程师 120 到 165 美元——而 Revolut 此前为前沿 API 每名工程师每月支付 1000 到 10000 美元。Revolut 未披露该集群是自有还是租用。 Abitbol 的核心运营警告是:把权重丢到 GPU 上跑推理会产生糟糕的性能,因为结果在很大程度上取决于配置。从 2026 年 4 月到 8 月,Revolut 将 GPU 数量固定在 56 块,将首 token 延迟从 10 秒以上改善到约 1.6 秒,同时每秒请求数从约 3 升至 7 以上。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。