Mercury 2.5把扩散LLM推向生产场景
扩散LLM从速度样本进入可调用模型和客户场景。
本文要点
- 从Mercury 2的速度叙事,推进到Mercury 2.5的生产模型叙事。
- OpenRouter页面给出当前上下文、价格和API能力元数据。
- 官方把搜索、语音、代码客户案例放入发布口径。
阅读辅助
先看数字、证据和来源,再读正文。
Mercury 2.5是Inception当前最强生产模型,并保持低延迟低成本服务画像。
2026-07-29 · Inception发布Mercury 2吞吐扩展背景文章,铺垫更多开发者和更大吞吐。
Mercury 2.5值得放进今天的深度,因为Inception Labs把扩散式语言模型的叙事从实验架构推进到生产服务:9月8日发布、OpenRouter同步给出可调用元数据、HN在数小时内出现技术讨论,这些共同构成过去24小时的新闻锚点。
对实时产品来说,延迟是一种会被多步链路放大的成本。Inception称Mercury 2.5是公司“most capable production model yet”,相对Mercury 2有+40% intelligence提升,并以同样的低延迟、低成本服务画像运行。OpenRouter页面则给出当前平台口径:260K上下文窗口、65,536最大输出、0.04美元每百万输入token和0.15美元每百万输出token价格。
需要留白的部分也要前置。1,107 tokens/sec来自Inception官方页面;质量提升、搜索客户、语音客户和代码客户案例也主要由厂商叙述提供。HN讨论里已经出现两类质疑:一类关心模型权重是否开放,另一类认为速度和质量的比较对象、比较口径仍需更透明的第三方评测。
对读者来说,这条新闻影响最大的是做实时交互和高频模型调用的人。搜索Agent、语音Agent、代码子任务、模型路由和上下文压缩都可能把“单次模型调用延迟”放大成产品体验。Mercury 2.5的验证重点,是它能否在这些多步工作流里持续给出足够好的答案,厂商速度数只提供初始线索。
发布口径拆解
Inception的公告有几处容易被误读。最重要的一句是“with the same low-latency, low-cost serving profile”。中文应写成“保持同样的低延迟、低成本服务特征”,含义是延续既有服务画像,不能改写成“再次降低成本”或“又提高速度”。同理,+40%也是相对Mercury 2的“intelligence”提升,不等同于所有公开评测的平均提升。
| 项目 | 页面依据 | 可采用表述 | 边界 |
|---|---|---|---|
| 模型定位 | Inception称most capable production model yet | Inception当前最强生产模型 | 厂商自我定位 |
| 服务画像 | same low-latency, low-cost serving profile | 保持低延迟、低成本服务特征 | 不应写成新增降价 |
| 速度 | 1,107 tokens/sec on widely-available NVIDIA GPUs | 官方称达到1,107 tokens/sec | 待独立复现 |
| 质量 | 40% increase in intelligence from Mercury 2 | 官方称相对Mercury 2提升40% | 基准细节需继续核对 |
| 平台元数据 | OpenRouter模型页和llms.txt | 260K上下文,65,536输出上限 | 平台信息会随时间调整 |
| 价格 | OpenRouter和Inception页面 | 当前$0.04/M输入,$0.15/M输出 | Inception称为启动期80%折扣 |
从产品能力看,Inception给Mercury 2.5列出了一组面向开发者集成的接口特征:tunable reasoning、parallel tool calls、schema-aligned JSON。OpenRouter的llms.txt也显示该模型可通过Chat Completions API调用,并列出reasoning、reasoning_effort、tools、tool_choice、response_format等可选字段。这里可以确认的是平台可见能力,不应外推为复杂Agent任务已经稳定通过。
扩散式路线的核心差异
Mercury系列的技术叙事来自扩散语言模型。传统自回归模型按从左到右的顺序生成token,每个新token都要等待此前token完成;Inception在Mercury 2背景文章中解释,扩散式语言模型可以对一段输出进行并行预测和迭代修正,让多个位置同时参与去噪。这是它声称能在普通NVIDIA GPU上获得高token吞吐的基础。
这个差异对终端用户并不总是直接可感知。一次普通聊天里,模型首包、网络、服务商排队、工具调用和前端流式渲染都会影响体感。生产系统更敏感,因为一次用户交互往往由几十次小模型调用组成。Inception在搜索背景文章中写到,一个搜索请求可能触发计划搜索、改写查询、重排结果、结构化事实、总结来源和校验答案等多个步骤;每一步都受模型延迟约束。
语音场景的约束更硬。Inception的Mercury 2语音文章把用户听到的停顿作为核心指标,称实时语音Agent需要把模型响应压进自然对话的等待窗口。Mercury 2.5公告延续了这一点,并公布Mercury Voice预览,称其TTFT低于170毫秒。OpenCall案例中,官方引述称迁移到Mercury后P99响应时间从数分钟降到1秒,P50从0.4秒降到0.2秒以下。这些都是重要线索,但仍属于厂商页面引用的客户口径。
生产案例说明了什么
Inception在公告里给出的生产案例有三类。搜索方向强调多次模型调用能在同一用户交互内完成;语音方向强调低延迟影响对话停顿;代码方向则提到Augment Code把Mercury用于上下文压缩、模型路由和MCP工具搜索。官方称Augment Code把压缩延迟降低82%,从约150秒降到27秒,成本降低90%,同时保持质量。
这些数字足以说明Inception希望争夺的市场位置:在“重复调用很多次、每次都要快、成本会被放大”的管线里拿下一个经济性入口。换句话说,Mercury 2.5更像一个面向系统工程的模型,适合被放在搜索重排、摘要、路由、压缩、短推理和结构化输出这些环节里。
但这也解释了为什么置信度只能给到medium。Inception给出的比较项包括GPT-5.6 Luna Low、Gemini 3.5 Flash-Lite和Claude Haiku 4.5等“cost-optimized frontier models”,可是公告没有在正文中完整公开可复现实验配置。HN评论也有人指出,速度比较和质量比较的对象并不完全等价。对买方而言,这种信息足以进入试用队列,还不足以直接替代自有评测。
社区反馈的信号
HN讨论没有改变这条新闻的事实基础,但给了很实用的边界提醒。有人看到“widely-available NVIDIA GPUs”后以为会开放权重,随后发现当前并非开源权重发布;这说明社区把扩散式架构和可自托管能力自然绑定,但Inception这次发布重点仍是API和托管服务。
另一类反馈来自试用者和潜在用户。有评论认为Mercury 2.5 Preview在逻辑和历史类文本输出上可用,也有人把它想象成多模型系统中的低延迟仲裁器。更谨慎的评论提到,它可能适合低成本、低等待时间的企业推理,但通用工具使用和Agent编码仍需验证。早报采用这些反馈时只作为社区观察,不把它们写成普遍用户结论。
对开发者的实际含义
如果开发者已经通过OpenRouter或OpenAI兼容接口做模型路由,Mercury 2.5的试用门槛不高。OpenRouter的llms.txt明确给出Chat Completions端点示例,模型名为inception/mercury-2.5,并说明非流式返回标准Chat Completions JSON,流式返回SSE数据块。对工程团队而言,这意味着验证工作可以从现有路由层开始,而不必先重写业务栈。
需要测的是分层工作流的整体收益。一个可操作的评测应至少覆盖四项:同一任务下的P50和P99延迟、单位正确答案成本、工具调用成功率、结构化JSON输出合规率。若任务涉及搜索或RAG,还要加入检索关闭实验,观察模型是否依赖记忆回答;若任务涉及语音,还要把ASR和TTS排除后单独测模型响应窗口。这个口径比单轮主观体验更接近生产采购。
价格也要按折扣期和长期价分开算。Inception页面写明默认价格为每百万输入$0.20、每百万输出$0.75,启动期为80%折扣;OpenRouter当前页面则显示每百万输入$0.04、输出$0.15,另有cache read $0.004/M。如果一个产品每天触发大量短调用,折扣期价格和长期价格会给ROI带来完全不同的结论。
早报判断是,Mercury 2.5把扩散式LLM带到一个更现实的评估维度:高频、短链路、低容忍延迟的任务需要更便宜的执行层。搜索、语音和代码辅助正好都符合这个条件。
这条路线对大厂前沿模型的压力会体现在产品系统的成本结构上。一个Agent应用可能仍用最强模型做规划和关键判断,却把改写、摘要、路由、压缩、校验这些重复步骤交给低延迟模型。如果Mercury 2.5在这些环节的质量足够稳定,它争夺的是调用次数,发布会里的最高分并非唯一指标。
当前最大的缺口是外部验证。Inception给出的客户案例很有方向感,OpenRouter也给了可调用入口,但速度、质量和工具可靠性还需要被第三方工作负载压一遍。买方可以把它列入工程实验,却不宜直接把官方的“production model”理解成已适配所有生产系统。
接下来看什么
独立基准要拆清硬件、batch、输出长度和并发条件。只有在这些变量一致时,1,107 tokens/sec才有比较意义。若吞吐只在特定短输出或理想批处理里成立,搜索和语音的实际收益会打折。
质量基准也要回到工作流。+40% intelligence需要对应明确评测集、评分方法和置信区间。尤其在Agent任务里,工具参数选择、错误恢复、长上下文压缩和schema输出合规率,比单轮问答得分更接近生产价值。
商业口径会决定它能否常驻。OpenRouter当前价格对试用非常友好,但Inception公告同时给出了启动期折扣和默认价格。企业会关心折扣结束后的单位任务成本、专用容量的SLA、数据保留配置和区域可用性。Mercury 2.5能否从“有趣的架构发布”变成固定模型层,就看这些指标能否继续补齐。