本文要点
- 默认模型:从 GPT 系列(闭源、按 token 高单价)→ 智谱 GLM 5.2 + 月之暗面 Kimi 2.7 等开源权重模型(权重开放 + API 低单价)
- 成本控制手段:从「摩擦 + 用量限额」→「更好的默认值 + LLM 网关路由 + 缓存命中率优化」
- 组织侧思路:从「抑制使用以压低支出」→「让指数级 token 增长可持续」,91% 员工从未触及任何用量上限
阅读辅助
先看数字、证据和来源，再读正文。
Coinbase 通过「更好的默认值 + LLM 网关路由 + 缓存」三件套,在 token 用量持续指数级增长的前提下,把整体 AI 支出削减近半。
2025-Q4 · Coinbase 工程团队开始系统化梳理内部 LLM 用量,识别「GPT 默认 + 缓存缺失 + 单模型路由」组合在企业级代码生成场景下的成本结构问题;LLM 网关项目在内部立项。
Coinbase CEO Brian Armstrong 6 月 29 日在 X 上抛出一组数字,把过去半年「开源权重替代闭源」的口号直接折算成了企业账单上的削减幅度:在 token 用量持续指数级增长的同时,这家美国头部加密交易所通过把智谱 GLM 5.2、月之暗面 Kimi 2.7 等开源权重模型设为默认引擎,叠加 LLM 网关的路由策略与缓存优化,让整体 AI 支出砍近 50%;LibreChat 缓存命中率从 5% 拉到 60%;91% 的员工从未触及任何用量上限。Armstrong 的核心结论不是「要限制 AI 使用」,而是「要换更好的默认值 + 路由 + 缓存」。
这一组数字之所以重要,不在于它本身的大小,而在于它把「开源权重替代闭源」从 2025 年的舆论口号,变成了 2026 年企业财务指标上的可量化案例。
发生了什么
Armstrong 在 6 月 29 日的系列推文中,把 Coinbase 内部的 LLM 成本工程实践拆成了三个抓手:
- 更好的默认值(defaults)——不再默认走 GPT 系列,而是把 GLM 5.2、Kimi 2.7 等开源权重模型作为内部多个产品的默认引擎,利用其 API 单价显著低于闭源旗舰模型的优势;
- 路由(routing)——通过自建或采用 LLM 网关(如 Portkey 形态),按 prompt 类型、复杂度、SLA 需求,动态选择最合适的模型组合,而不是所有请求无差别打给最贵的模型;
- 缓存(caching)——以内部在用的 LibreChat 等客户端为切入点,把同一份 prompt 模板、相同上下文、相似语义的请求直接命中已有响应,避免重复推理。
三件套叠在一起,产生了 Armstrong 公开的两组数字:
- AI 支出削减近 50%(在 token 用量仍持续指数级增长的前提下);
- LibreChat 缓存命中率 5% → 60%。
更值得注意的是 Armstrong 给出的组织侧论据:91% 的员工从未触及任何用量上限。换言之,Coinbase 管理层判断「成本失控」的根本原因不是员工用得多,而是默认值太贵、缓存没做、路由不智能——所以选择「更好的默认值」,而非「降速 + 限额」。
代码 review 这一类高频场景,Armstrong 描述为「多种模型互相校验」——也就是不再让单一模型既写又审,而是用多模型交叉来兜底质量。
关键数据 / 技术细节
下表把 Coinbase 这次披露里能直接读出的几组数字,与外部公开基准做一个对比。Armstrong 自报的部分单独标注口径。
| 指标 | Coinbase 切换前(推断) | Coinbase 切换后(自报) | 行业公开对照 | 备注 |
|---|---|---|---|---|
| 默认 LLM 引擎 | GPT 系列(闭源) | GLM 5.2 + Kimi 2.7(开源权重) | Shopify / Stripe / Cloudflare 2026 上半年同类切换 | Armstrong 未披露具体模型版本与流量配比 |
| 整体 AI 支出(自报) | 基线未公开 | 削减近 50% | DeepSeek V3.5 输入 ¥1–2 / 百万 token(缓存命中),显著低于 OpenAI 同档 | 口径:仅 Coinbase 内部使用,未含面向客户的 AI 产品收入侧成本 |
| LibreChat 缓存命中率 | 5% | 60% | LibreChat 默认无缓存或低命中,启用 prompt / response cache 后可达 60%+ | 命中率口径(用户级 / 会话级 / token 级)未公开 |
| 触及用量上限的员工比例 | 未披露 | 9%(即 91% 未触顶) | — | 「用量上限」的具体阈值未公开 |
| 代码 review 模型组合 | 单模型自评 | 多模型互相校验 | — | 组合细节未披露 |
注:Armstrong 的核心数字(50%、5%→60%、91%)均来自单一系列推文,口径、覆盖范围、时间窗口均未独立披露,需以 Coinbase 后续财报或工程博客二次验证。
从技术栈的形态看,「LLM 网关 + 路由 + 缓存」并不是 Coinbase 发明的新物种。Portkey、OpenRouter、Cloudflare AI Gateway 等开源/商用网关项目,在 2025 年下半年到 2026 年上半年都已经在做同样的能力组合——多模型路由、按 prompt 分级、缓存层、可观测性。Coinbase 的意义在于把这套范式跑出了「支出近半、缓存 5%→60%、91% 不触顶」的可量化结果,并由 CEO 本人公开背书。
为何重要
Armstrong 的这一系列推文之所以值得作为深度页处理,是因为它处在三条行业线的交汇点上。
第一,「开源权重替代闭源」已经跨过「试点」门槛,进入「默认引擎」阶段。 2026 上半年 Shopify、Stripe、Cloudflare 等大企业先后公开承认将 Kimi、GLM、DeepSeek 等国产开源权重模型设为默认引擎,作为替代 GPT 系列压低推理成本的方案。但之前公开案例的颗粒度大多停留在「我们用上了 Kimi」,没有给出「具体砍了多少支出、缓存命中率是多少、员工侧影响如何」的可量化数字。Coinbase 把这一阶段往前推了一步:默认切换 + 可量化结果。
第二,「企业 LLM 成本优化」的主流叙事正在从「限额」转向「默认值 + 路由 + 缓存」。 2025 年下半年到 2026 年初,大量企业的内部讨论停留在「是不是要给 AI 补贴设上限」、「各部门按配额分配 token」,本质是用摩擦抑制使用。Armstrong 的口径明确反对这条路径——91% 的员工没触顶,说明问题不在使用侧,而在默认引擎太贵、缓存缺失、路由粗放。这条思路与同期 Google AI Studio 提供百万 token/min 免费额度加剧竞争、Anthropic / OpenAI 不断下放更便宜的中端模型形成共振:「AI 工具的边际成本被持续打下来」才是 2026 年企业 AI 政策的正确主轴,而不是「给员工设上限」。
第三,代码 review 场景的「多模型交叉校验」是这次披露里被低估的一条。 Armstrong 描述代码 review 使用多种模型互相校验——这暗示 Coinbase 已经把单模型既写又审的旧流程,切换成「一个模型写、另一个模型审」的多模型组合。这条做法的隐含成本收益是:用更贵的模型做审、更便宜的开源权重做写,可以同时压低账单并提高质量;但副作用是引入对账与归因复杂度(同一个 PR 可能涉及多个模型版本),以及潜在的质量波动风险。这一点在 Armstrong 的口径里没有展开,是后续值得关注的技术债。
这是「开源权重替代闭源」从口号进入企业财务指标的标杆事件,值得作为 2026 年 ToB AI 成本工程的标志性案例。理由有三:
第一,可量化的口径本身就有传播价值。 之前同类案例大多停在「我们切到了 Kimi/GLM」,没有给出可对照的数字。Coinbase 这一轮把「支出近半」「缓存 5%→60%」「91% 不触顶」三组数字直接抛出来,等于给整个行业立了一根「开源权重默认 + 缓存 + 路由」的标杆线——之后任何一家公司想讲类似故事,都会被拿来和 Coinbase 对照。这是企业 LLM 成本工程的关键拐点,类似 2023 年 Datadog 公开「我们把 S3 流量降了 40%」后,整个云成本优化行业才有可对照的锚点。
第二,LibreChat 缓存 5%→60% 是这一路径里最大的单项实战收获。 数字背后是一个朴素的事实:大量企业内部 prompt 是高度重复的——同一份 system prompt、同一段代码上下文、同一类客服模板,反复打给模型做近似推理。Armstrong 把「缓存命中率」从 5% 拉到 60%,意味着 60% 的请求直接命中既有响应,根本不需要再走推理链路。这条经验对所有正在做 LLM 成本优化的中大型企业都直接可复用——缓存命中率每提升 10 个百分点,基本就等于推理账单直接砍 10%。Coinbase 这组数字的真正贡献,是把「缓存到底值多少钱」这件事讲清楚了。
第三,「91% 员工未触顶」是对当前「AI 限额派」最有力的一次反向证据。 2025 年底到 2026 年初,「要不要给员工 AI 用量设上限」是大量公司管理层在讨论的话题。Armstrong 用 Coinbase 的内部数据直接反驳:91% 的人根本没碰到上限,问题不是用得多,是默认太贵。 这意味着 2026 年下半年企业 AI 治理的正确方向,大概率不是「按团队设 token 配额」,而是「换一个更好的默认模型 + 把缓存做厚 + 把路由做聪明」。
Caveat(必须并存的反面): 这一组数字有明显的单一企业自报口径问题。Armstrong 是 Coinbase CEO,「支出近半」的具体基线、覆盖范围(训练 vs 推理 vs 嵌入 vs 基础设施)、「91% 不触顶」的阈值定义、「缓存命中率 5%→60%」的口径(用户级/会话级/token 级),均未公开,也不能排除 Coinbase 把节省部分与某些基础架构投入做了抵消;同时样本仅一家公司,业务形态(加密交易所)、组织规模、模型使用密度与一般互联网公司不同,不能直接外推到所有 ToB 场景。
更关键的是:这条路径的可持续性,会被 DeepSeek V4 7 月中旬引入高峰 2 倍定价(同日 deep:deepseek-v4-pricing-strategy)、GLM 下一版本社区调研呼吁 vision/token efficiency、Google AI Studio 免费额度等多重外部变量同时影响——Coinbase 这组数字是 2026 年 6 月的快照,不是稳态。下半年开源权重派进入「低价 + 拥堵定价」双轨模式后,「默认开源权重就一定便宜」这个隐含假设会开始出现裂缝,值得持续追踪。
接下来看什么
这一事件的后续验证点不在 Armstrong 自己说了什么,而在三个可观察、可交叉印证的外部信号:
- 财报披露——Coinbase 是否会在下一份 10-Q 或财报电话会上,把 AI 成本结构作为独立披露项,验证「支出近半」的自报数字;若披露口径与推文口径一致,可信度会显著提升;若含糊或调整基线,意味着自报口径需要打折。
- 工程侧落地——LibreChat 项目是否会在 GitHub release notes 中提到 Coinbase 贡献的缓存改造,以及 60% 命中率的实现路径(prompt template cache / semantic cache / response cache);如果是哪一类缓存,直接决定这条经验对其他企业的可复用度。
- 横向对照——Shopify、Stripe、Cloudflare 等同类切换企业,在 2026 下半年是否公开更多分模型用量、单位成本曲线、人工重写率等可比数字;一旦横向基准形成,Coinbase 这组数字就从「孤例」变成「行业线」。
- DeepSeek V4 与开源权重定价——DeepSeek V4 7 月中旬发布并引入高峰 2 倍定价(同日 deep:deepseek-v4-pricing-strategy),意味着开源权重派开始叠加「分场景分层」;Coinbase 这类已切换企业的成本曲线会不会被再次扰动,是 7–8 月值得跟踪的关键变量。
- Google AI Studio 免费额度的介入——Google AI Studio 提供百万 token/min 免费额度后,Coinbase 是否会把 Gemini 系列也纳入默认候选,出现「中美三方开源权重 + 闭源免费额度」的四源路由,会再次改变成本曲线的形态。
- 代码 review 多模型交叉校验的可量化质量指标——「多模型互相校验」是这次披露里最容易被忽略的工程改造,其漏检率、重写率、对账复杂度是否会被 Coinbase 工程博客或外部审计披露,决定了这条经验在企业 ToB 场景的可推广度。
在企业 AI 工具从「试点」走向「默认基础设施」的 2026 年,Coinbase 这一组数字,大概率会被后来者反复引用——既是标杆,也是基准。