Revolut 的 David Abitbol 表示,自托管 GLM 模型为 2,000 名工程师将 AI 编程成本削减了 90%

Revolut 为 45 个市场的 8000 万客户提供服务,2026 年 7 月完成的一笔二级股票出售对其估值达 1150 亿美元,使其成为欧洲最有价值的私营公司。据其 AI 运营负责人称,该公司目前在 AI 编程 token 上的支出约为过去支付给 Anthropic 和 OpenAI 的十分之一。David Abitbol 在 AI Engineer 播客中表示,运行自托管 GLM 模型的混合成本为每百万 token 30 美分——而这一数字正在悄然改写一家受监管银行采购人工智能的方式。
引人注目的并非折扣本身,而是 Revolut 通过“做得更少”实现了这一点:使用的 GPU 比工作负载看似需要的更少,上下文比模型宣称的更少,精度比硬件允许的更低,权限比自主智能体想要的更少。事实证明,约束而非容量才是杠杆。
从 Gemini 到 GLM:一年的实际效果测量
Revolut 的数据来自对约 2,000 名工程师为期约一年的跟踪样本,这使其显得不同寻常——大多数部署 AI 助手的企业都没有干净的前后对比数据。
第一次推广是 2025 年 1 月的 Gemini,交付周期改善了 10%,编程时间改善了 20%。Abitbol 将编程时间的提升归功于工程师不再需要翻找 Stack Overflow 和文档。Claude Code 于 2025 年 2 月左右试用,2026 年 1 月大规模上线,但起初几乎没有可衡量的影响——而且成本令人咋舌。工程师每月花费 1,000 到 10,000 美元却回报微弱,因此推广时附带了严格的预算上限。
2026 年 4 月左右开始自托管开源模型改变了局面。彼时的 GLM 5.1 在编程时间上提升了 60%,交付周期提升了 70%。
| 时间 | 工具 | 交付周期变化 | 编程时间变化 |
|---|---|---|---|
| 2025 年 1 月 | Gemini | +10% | +20% |
| 2025 年 2 月 – 2026 年 1 月 | Claude Code | 上线时影响极小 | 上线时影响极小 |
| 2026 年 4 月 | 自托管 GLM 5.1 | +70% | +60% |
这种不对称正是洞察所在。更大的收益落在交付周期而非编程时间上,因为写代码从来不是瓶颈。“我们发现工程的瓶颈未必是编程,”Abitbol 说。“你可以节省大量时间,不必翻找收件箱或折腾 Jira 和 Confluence。”
还有一个未体现在表格中的二阶效应。当 token 实际上不受限制时,工程师不再精打细算——把昂贵的工具留到季度末或最困难的任务时再用——而是开始在所有事情上使用它。Abitbol 现在的立场很直白:开源是优先事项,账单是固定的,没有逐月账单冲击,前沿模型是例外。Codex、Claude Code 和 Gemini 仍留在工具箱中应对最难的问题,但它们不再是默认选择。
五十六块 GPU、2,000 名工程师,以及把 Slack 收件箱当作真正的基准
基础设施的算术具体得令人耳目一新。在 GLM 5.3 上为 2,000 名工程师提供服务大约需要 56 块 Nvidia B200。该模型采用专家混合设计:总参数约 7500 亿,但每个 token 仅激活约 400 亿。这一区别对账单很重要——集群必须容纳全部权重,而每个生成的 token 只动用其中一小部分,这正是 56 块 GPU 能为 2,000 名工程师维持交互式延迟的原因。
像 {{NAME_ab12cd34}} 这样写出的值是真实值的占位符。在回复和工具调用中都请完全按原样使用它们:它们会在任何内容运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。
文章标题:GLM 模型为 2k 工程师降低 AI 编程成本 90%
Abitbol 的延迟目标是基于实测而非理论。目标是首 token 时间低于三秒,因为超过五秒 “我的 Slack 收件箱就要炸了”。对于交互性而言,吞吐量相对次要:每秒 200 token 就够了,因为工程师现在会并行发起任务,等完成后再回来查看,而不是盯着思考 token 流式输出。下午 5 点之后接入的工程师,此时 GPU 处于空闲状态,可以获得每秒 800 token 的速度。
然后是账单。“自托管 GLM,我们的混合 token 成本是每百万 30 美分,因此我们的账单是依赖 Anthropic 和 OpenAI 时所花费的十分之一,”他说。
分母值得估算一下。一台配置好的八 GPU B200 服务器在某集成商处的标价约为 $390,700,因此 56 块 GPU 在计入电力和网络之前大约代表 $2.7 百万的硬件。按主流云厂商在 10 月收取的每 GPU 小时 $6 至 $8 的价格租用,同样的 56 张卡每月将花费 $245,000 至 $327,000——约合每位工程师 $120 至 $165——而 Revolut 此前为前沿 API 支付给每位工程师的费用是每月 $1,000 至 $10,000。Revolut 未披露该集群是自有还是租用。
88% 的提升来自调优,而非采购
Abitbol 的核心运营警告是:把权重放到 GPU 上并运行推理会产生糟糕的性能,因为结果在很大程度上取决于配置。Revolut 在 2026 年 4 月至 8 月期间将 GPU 数量固定在 56 块,并将首 token 时间从超过 10 秒提升到约 1.6 秒,同时每秒请求数从约 3 上升到超过 7。
这是在需求增加 76% 的情况下实现的 88% 性能提升,而且没有增加任何一张卡——这是演讲中最有力的论据,反对动辄扩展硬件的本能反应。“我们在需求增加 76% 的情况下实现了 88% 的性能提升,”他说。“所以从中得到的教训是,有很多参数可以改进,如果你打算自托管某个模型,真的需要抵制扩展的冲动。”

长上下文是骗局,FP4 是底线
问一位推理工程师该调什么,你通常会得到一串技术清单。Abitbol 以一个反直觉的结论开场:长上下文是陷阱。“长上下文是骗局,”他说。“你真的需要留意,即使你能服务一百万 token,256 才是你真正需要的。”
同样的纪律适用于精度。在 Blackwell 代 GPU 上,高于 FP4 的任何精度都不值得运行——据他所说,从 FP4 迁移到 FP8 会多消耗约 40% 的 GPU 占用,而精度收益为零。
清单的其余部分读起来像一本实战手册:
- 张量并行:GLM 在 TP4 上放得下,但 KV 缓存会不足;根据工作负载大小,TP8 可能服务得更好。
- 缓存命中率:编程任务需要高于 90%。低于此值,经济性和延迟都会恶化。
- 高级技术:优化的投机解码、顺序预填充,以及 PD——预填充-解码——分离。
注意缺失了什么:任何关于更大集群能解决这些问题的建议。清单上的每一项都是配置决策,而且每一项都会叠加。
选择更聪明的文本模型,把图像路由到别处
GLM 仅支持文本,Abitbol 将其视为可接受的权衡而非缺陷。“这个权衡,我会说,我们每次都会做:选择更聪明的模型,然后想办法用另一种方式做图像识别。”
“另一种方式”是本地路由器,例如 OpenCode,它可以将图像任务发送给 Gemini 或 Luna,而 GLM 处理主要的编程工作负载。对于真正需要主模型具备视觉能力的团队,GLM 5.3-Flash 表现良好——Revolut 的 UI 设计师在使用它,Abitbol 表示 UI 产品的周转已大幅改善。
在工具层面,每个端点都与 OpenAI 兼容,并提供响应 API,因此可以直接接入 OpenCode、Codex 和 Codex 应用。正是这种兼容性,让 Revolut 向所有构建相同技术栈的人推荐这套方案。
合规的答案:权重,而非端点
对于任何规避风险的技术负责人来说,这场对话中最有价值的部分,是 Revolut 如何在其面临的最严格监管制度下,为使用中国开放权重模型做出合理解释。Abitbol 认为,这种污名源于一种混淆:把租用推理端点与下载文件混为一谈。
“你并没有使用推理,也没有使用那个通往中国的专用端点,你只是获取权重,并把它们放到美国境内的服务上,”他说。“所以就数据共享而言,这完全没有问题。”
数据共享这一论点跳过了一个细节:这些权重并非免费下载的许可。GLM 5.3 依据自定义的 Z.ai 许可证发布,而非其前代所采用的 MIT 条款。该授权总体上是宽松的,但若被许可方经营模型即服务业务且年收入超过 100 亿美元,则必须在商业使用前通过 Z.ai 的安全审查——这一条款针对的是大型云平台,而非为自家工程师提供服务的银行。较小的多模态模型 GLM 5.3-Flash 仍采用 MIT 许可证。
对于一家受欧盟监管的银行而言,向监管机构提出的论点建立在分类之上:编程任务不属于自主智能体,因为始终有人在环路中。证据是一个为确保这一点而构建的沙箱。Codex CLI 的审批功能让 Revolut 可以为特定操作设置允许和拒绝规则——例如允许 grep、拒绝 gradle——从而让监管机构相信系统无法在无人监督的情况下行动。
这个沙箱承担双重职责。它既防范内部违规使用——“你会惊讶于在一家大公司里能发现什么,”Abitbol 说——也防范提示注入,他称鉴于当前模型能力,这已是较小的威胁,但仍是现实风险。
在数据隐私方面,GPU 可以部署在数据等效框架覆盖的任何国家——美国、欧盟、英国或以色列——并且 GPU 和推理提供商默认实行零数据保留。最后一项要求是强大的 OpenTelemetry,以便任何事件都能通过深度日志追溯,分析只是附带的好处。

这对 Revolut 之外意味着什么
Abitbol 的数字只是一家公司的内部样本,而十分之一的成本比较假设前沿 API 的定价保持不变。这一假设已经受到考验:Anthropic 将 Claude Opus 5.5 降价 20%,OpenAI 在大约 90 分钟内跟进,推出的模型价格约为其上一代的一半。如果前沿实验室继续降价,Revolut 的优势会缩小——但趋势不会逆转,因为自托管还带来了固定账单、不会出现账单冲击,以及对技术栈的完全控制。
第二点要观察的是,56 块 GPU 是否仍然够用。GLM 5.3 已经拥有约 7500 亿参数,后续版本还会更大;调优优先的原则买来了余量,但并非无限。
第三点是先例。如果监管机构接受人在环路中的沙箱足以满足一家在美国芯片上运行中国权重的欧盟银行,那么这一论点对欧洲的每一家金融机构都将可用——开放权重模型的可触达市场将大幅拓宽。同样的逻辑正在创业经济中蔓延:租用 GPU、部署中国开放模型并转售 token 已成为一种可识别的业务,据 Menlo Ventures 投资人 Deedy Das 称,一些初创公司在数月内就达到了 100 万美元的月收入。当最便宜的 token 来自租用芯片上的开放权重时,封闭前沿 API 的定价权取决于是否显著更聪明——这一差距必须在每次发布时重新赢得。
像 {{NAME_ab12cd34}} 这样写出的值是真实值的占位符。请在回复和工具调用中完全按原样使用它们:它们会在任何内容运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。
在美国,合规问题呈现出不同形态。联邦层面没有禁止私营公司下载或运行开放权重模型的禁令,但采购规则如今已超越模型本身。国土安全部10月20日发布的一项命令要求联邦文职机构移除的不只是 DeepSeek 产品,还包括使用 DeepSeek 技术构建的第三方产品和服务,例外可申请。因此,任何向联邦机构销售的公司,或作为联邦承包商运作的公司,都必须追溯其技术栈内部的模型权重,而不仅是它采购的供应商。Revolut 的“我们只是下载了一个文件”的说法,能回答数据保护监管机构;但它不是针对基于来源的采购规则的抗辩。
其他地方的监管机构处于不同阶段。日本金融厅在2026年3月发布了一份讨论文件,提出了关于金融机构如何使用 AI 的初步问题,包括治理和内部规则,但未施加有约束力的要求。台湾金融监督管理委员会在10月就智能体 AI 安全启动了为期30天的咨询,依据数据敏感性、其可采取行动的影响以及其能力可扩散的范围对部署进行分级,并应用零信任原则,如最小权限和可追溯性。两者都在围绕 Revolut 划定的边界打转:系统是否会自行行动。
对投资者而言,其延伸含义与其说关乎 Revolut,不如说关乎 AI 支出的形态。Goldman Sachs 目前预计,AI 资本支出的增长推动力将在2026年末或2027年初见顶,其策略师估计,美国五大超大规模云服务商仅为了盈亏平衡,就需要约3000亿美元的年度 AI 收入——而第二季度 AI 云收入仅比其繁荣前趋势高出约700亿美元,缺口约为2300亿美元。同一团队预计,超大规模云服务商的资本支出将从2026年的约8000亿美元增至2027年的1.2万亿美元。Revolut 对这一算术的回应是,停止为智能按零售价付费,转而运行自己的推理栈,并针对它实际拥有的工作负载进行调优,而不是它某天可能需要的基准测试。每一家跟进的大型企业都将压缩超大规模云服务商所依赖的收入池——并奖励那些卖铲子和镐的人,从 B200s 到让其中56块表现得像200块一样的软件。如果 Abitbol 的核心主张成立,即大部分收益来自参数而非硬件,那么企业 AI 的瓶颈就不是芯片。而是是否愿意约束系统。
- Goldman Sachs 称,随着支出繁荣接近顶峰,AI 导致的失业正蔓延到科技行业之外
- 随着用户面临每月数百美元的账单,AI 订阅不断堆积
- 以每月100万美元出租 GPU 并转售 Token:中国开源模型成为硅谷初创公司的宠儿
- OpenAI 称 Retell 80% 的通话运行在其模型上,月量突破1亿
- Nvidia 投资 AI 视频初创公司 Higgsfield,扩大8月 B 轮融资
一旦添加,BigGo Finance 会首先出现在 Google Search Top Stories 中,因此你能最先获得最广泛、最新且最全面的全球财经新闻。