AI 早报
模型发布

待验证｜阿里 Fun-ASR 把流式首字压到百毫秒,顺手把离线榜也抢到第一

Fun-ASR-Flash 榜单登顶,Fun-ASR-Realtime 100ms 首字,通义把流式与离线两条 ASR 战线一起打包。

编辑：AI 早报编辑系统 更正与反馈
2026年7月7日 · 周二 深度报告 低置信 重要度 4/5
#语音识别#Fun-ASR#通义实验室#流式 ASR#Artificial Analysis

本文要点

  • Fun-ASR 家族从单一开源模型演化为开源与商业双轨,Flash 偏离线,Realtime 偏流式
  • Artificial Analysis AA-WER 榜第一名从 ElevenLabs 与 Microsoft 让位给阿里
  • vLLM Streaming WebSocket 在 5 月底进入 FunASR,流式 ASR 首次以标准推理接口触达 GPU 推理栈

阅读辅助

先看数字、证据和来源，再读正文。

1.7% Fun-ASR-Flash AA-WER
~100ms Fun-ASR-Realtime 首字延迟
4 条 Claim Audit

Fun-ASR-Flash(Fun-Realtime-ASR-preview)在 Artificial Analysis ASR 字错率榜以 AA-WER 1.7% 排名第一

4 个时间点

2026-05-24 · FunASR 在 vLLM 上线 Streaming WebSocket 服务,Paraformer-zh-streaming 进入主流推理框架

5 个来源 4 个非 X 来源

同一周两件事,绑在了同一根时间轴上

7 月初这一周,通义实验室在 ASR(自动语音识别)赛道几乎同时放出两个信号:Artificial Analysis 把 Fun-Realtime-ASR-preview 推上 58 模型评测榜单,以 AA-WER 1.7% 拿下综合字错率第一;X 用户 @0xLogicrw 同步爆料 Fun-ASR 系列的拆分方向,称流式版本 Fun-ASR-Realtime 的首字延迟被压到 100ms 量级,且精度「逼近离线模型」。

但这两个数字的置信度不在同一档。榜一是 Artificial Analysis 第三方榜单实测,精度可信;100ms 首字延迟是 X 上的单源爆料——通义实验室官方页与 ModelScope 模型卡本次抓取都没拿到正文,这条数字目前只能算市场口径。下文的拆法是先把两件事当两个独立事件看,再合到 Fun-ASR 家族矩阵和中文 ASR 市场格局里一起谈。

AA-WER 榜一事件:一个被低估的精度拐点

Artificial Analysis 的 speech-to-text 榜单(artificialanalysis.ai/speech-to-text)覆盖 58 个语音转文字模型,核心指标叫 AA-WER(Artificial Analysis Word Error Rate,综合字错率,越低越好)——它把不同语种、不同口音、不同场景下的字错率折算成单一分。Fun-Realtime-ASR-preview 在该榜单 FAQ 中被标注为「leads with the lowest AA-WER of 1.7%」,即 58 个模型中排名第一。

把第一名的「小区」摆出来,可以看清这个数字的相对位置:

模型AA-WER速度因子每千分钟单价
Fun-Realtime-ASR-preview(通义)1.7%未公布未公布
ElevenLabs Scribe v22.2%31.3x$3.67
Microsoft Azure MAI-Transcribe-1.52.4%260.0x$6.00
Smallest AI Pulse Pro2.4%298.0x$3.50

读这张表的焦点不是「谁更强」,而是 Fun-Realtime-ASR-preview 与第二名 ElevenLabs Scribe v2 之间那 0.5 个百分点的差距。Scribe v2 在 2025 年下半年一直是英语商业 ASR 的标杆之一,在多人发言、嘈杂会议、电话信道这类长尾场景上表现稳健。能压过它 0.5pp,意味着 Fun-ASR-Flash 在 Artificial Analysis 那套打分切片里几乎是全面占优——不是靠某个细分语种或某个干净场景的偶然胜出。

但 Fun-Realtime-ASR-preview 在榜单上只露出 AA-WER,速度和价格两栏是空白:ElevenLabs 把速度因子做到 31.3x(1 分钟音频 1.92 秒跑完),Microsoft Azure 已经推到 260x(1 小时音频约 13.8 秒返回),Smallest AI 推到 298x;Fun 这一侧速度没给,意味着我们目前不知道它是「又快又准」还是「准但慢」。对一个要卖 API 的厂商来说,速度因子直接决定能不能跑实时字幕、能不能跑万人会议转写。同时,$3.50–$6.00 / 千分钟($0.0035–$0.006 / 分钟)已经是英语商业 ASR 价格带的常态,阿里作为国内云厂,合理预期是用价格 + 中文场景精度抢市场,而不是对标 ElevenLabs 这条英语商业档。榜单上 Flash 的速度和价格两栏都留白,可能恰是阿里刻意把这两项放进官方商业页发布时一起放出,而非先裸露给 Artificial Analysis。

100ms 单源爆料事件:这条数字到底能信多少

「流式首字延迟」(First-Token Latency,FTL)指的是从说话人开口、麦克风收到第一段音频,到屏幕上出现第一段识别文字之间的时间窗口。100ms 这个数量级在业内大概对应这个直觉分级:

  • 0–100ms:人耳几乎察觉不到「等」的感觉,等价于本地输入法或本地离线模型;
  • 100–300ms:有轻微「对方在听你说话」的反馈感,典型 AI 数字人、AI 客服实时对话;
  • 300–800ms:用户能明确感知到「等系统处理」,云端 Whisper-large / 早期流式 ASR 的常见区间;
  • > 800ms:基本告别「实时对话」体验,只能做字幕后处理或离线批处理。

100ms 意味着 Fun-ASR-Realtime 理论上可以做到「开口即反馈」的拟人体验。AI 数字人 / AI 客服的语音对话延迟可压到 200ms 端到端(ASR 100ms + LLM 50–80ms + TTS 30–50ms),刚好落在人类对话的自然延迟窗口内;实时字幕、语音输入法、跨国会议的同声传译流水线,首字延迟不再是体验瓶颈;配合 LLM 工具调用(语音下单、语音点餐、语音工单),反馈链可做到近乎「按下说话键就出结果」。

但这里必须把话挑明:100ms 这个数字的来源只有 X 用户 @0xLogicrw 一条推文,没有第三方独立复测、没有阿里官方报告、Artificial Analysis 榜单也没在速度因子上给数、ModelScope 模型卡本次抓取仅得标题。它可能来自以下任何一种解释:

  • 阿里内部测试环境(理想网络、无 VAD 触发延迟、单人普通话短句);
  • 经过预热 + 边缘节点 + 网络优化后的 P50(中位数) 而非 P95(95 分位);
  • 含 / 不含 VAD(Voice Activity Detection,人声活动检测)的触发延迟——有些实现里 VAD 会额外吞掉 100–300ms,口径差异巨大;
  • 仅在通义听悟自家 SDK 里测得,移植到通用 WebSocket 接口后可能掉到 200–300ms 区间。

任何一种解释下,100ms 都是「值得兴奋、但还不到下结论」的数字。早报的态度是:作为「市场口径」可以记下来,作为「工程基线」需要等阿里放出官方延迟分布图与商业价格表后再下判断。

Fun-ASR 家族双轨产品矩阵:不是新产品,是把旧家族重新挂上货架

把眼光放到整个 Fun-ASR 系列,通义实验室在 ASR 赛道已经摆出一张双轨表:

模型参数定位主要能力
Paraformer-zh-streaming220M开源 · 中文流式WebSocket 流式接口,2026/05/24 进入 vLLM
SenseVoice-Small较小开源 · 事件 / 情绪同时输出语种、情绪、声音事件
Fun-ASR-Nano800M开源 · 多语种离线31 语种,中文 CER 8.20%
Fun-ASR-Flash(Fun-Realtime-ASR-preview)未公开商业 · 离线 / 批处理AA-WER 1.7%,榜单 #1
Fun-ASR-Realtime未公开商业 · 流式首字 ~100ms(单源爆料)

开源侧的 Paraformer-zh-streaming 在 2026 年 5 月 24 日正式进入 vLLM 推理框架的 Streaming WebSocket 服务,这意味着开发者可以用标准推理栈把流式 ASR 部署在自建 GPU 上,而不必只走阿里云 API。商业侧的 Fun-ASR-Flash / Realtime 则走阿里云百炼、通义听悟等托管渠道。

这里有一处值得展开的疑点:Paraformer-zh-streaming 是 220M 参数的开源模型,Fun-ASR-Realtime 是商业 API,二者底层权重是否同一套?如果是同一套,百毫秒延迟主要靠工程优化(预热、流式 chunk、边缘节点、解码器);如果用了更大的闭源模型,则意味着流式 ASR 的精度上限被显著抬高,也会改写国内所有语音公司的产品规划。这个分叉点 GitHub 仓库和 ModelScope 都没给明确答案,只能等阿里公开 Fun-ASR-Realtime 的架构说明。

把家族成员和外部开源基线摆到一起看,可以看清中文场景下这一代 ASR 的精度水位:

模型中文 CER流式支持备注
Whisper-large-v320.02%否OpenAI 开源旗舰,通用基线
Whisper-large-v3-turbo21.71%否速度更快但精度略降
Paraformer-Large10.18%否通义自家开源离线模型
SenseVoice-Small7.81%否含情绪 / 事件检测
Fun-ASR-Nano8.20%否800M,31 语种,开源
Fun-Realtime-ASR-preview未公开(AA-WER 1.7%)是(预览)多语种综合精度,榜单 #1

Whisper 系在中文场景下 CER 是 20% 量级,Paraformer-Large 把它压到 10%,SenseVoice 和 Fun-ASR-Nano 进一步压到 8% 左右,而 Fun-Realtime-ASR-preview 把多语种综合 AA-WER 压到了 1.7%——大约把多语种综合精度比 Whisper 提升了一个数量级。这背后是工业级数据 + 大模型架构 + 工程优化的复合产物,已经不是单纯学术 SOTA 能解释的数字。

但要注意:AA-WER 与 CER 是两个口径。AA-WER 折算了多语种综合难度,CER 是中文纯字符错率。Fun-ASR-Nano 的中文 CER 8.20% 对应到 AA-WER 会因语种混合计算方式不同而不一定等于 8.20%,所以「Nano 8.20% vs Flash 1.7%」的直接对比其实不完全公允,只能作为同一厂商不同档位之间的参考。

中文场景下的市场含义:谁动了刀、谁打开了窗、谁还只是远景

把上面三段合起来,这件事在中文 ASR 市场里同时改写三样东西:精度水位、工程管线、商业档位。

精度水位这边,榜一事件把多语种综合精度的天花板往上抬了 0.5pp。对国内做中文 AI 产品的厂商来说,选择底层 ASR 时,继续把 Whisper-large-v3(中文 CER 20.02%)当基线的成本收益在恶化——同样的算力花在 Paraformer-Large(中文 CER 10.18%)或 Fun-ASR-Nano(中文 CER 8.20%)上,在最常用的中文场景上能拿到的字错率直接砍半。再考虑到 Paraformer-zh-streaming 已经进了 vLLM Streaming WebSocket,这条替代路径是标准推理栈可用、不必绑死阿里云的。一个合理的迁移路径已经在公开栈里浮出:Whisper 系 → Paraformer 系 → 等 Fun-ASR-Flash 的权重或 API 进一步下沉。

工程管线这边,流式 100ms 与榜单 #1 之间形成一条隐含的对照线。流式 ASR 跑到 100ms 通常意味着小模型 + 短 chunk + 边缘部署 + 解码器优化,这和冲榜单用的离线大模型在算力需求上是不同取舍。一家公司能同时跑两条产品线(Paraformer-zh-streaming 进 vLLM + Fun-ASR-Flash 上 Artificial Analysis + Fun-ASR-Realtime 走通义听悟),背后是从训练数据、模型架构、推理框架到边缘部署的完整栈。这意味着未来 12 个月的国内 ASR 竞争,主要战场不在模型架构,而在工程管线 + 推理栈优化 + 边缘部署——单点创业公司更难复制这种能力。

商业档位这边,$3.50–$6.00 / 千分钟是英语商业 ASR 的价格带,阿里作为国内云厂,合理预期是用中文场景的精度优势 + 国内更低的人力 / 算力成本,打出一个明显比国际厂商更激进的定价档位。Flash 上榜但速度和价格两栏空白,可能恰恰是把榜一当 PR 锚点、把价格放进后续接入路径上的筹码。值得密切跟踪的是阿里云百炼 / 通义听悟 API 的 Fun-ASR 定价 7 月内是否同步上线——这一档定下来,中文字语音、AI 客服、AI 会议助手这些应用的边际成本会被重新算一次。

早报观点

早报观点

第一,Paraformer / Fun-ASR 系正在替代 Whisper 系成为国内中文 ASR 的默认起点。榜一事件 + Paraformer-zh-streaming 进 vLLM Streaming WebSocket + Fun-ASR-Nano 中文 CER 8.20% 这三件事合在一起,意味着中文场景下「最划算的开源 ASR 基线」已经发生位移。对国内做语音输入法、AI 会议、AI 客服、AI 数字人的团队来说,继续把 Whisper-large-v3(中文 CER 20.02%)当底层 ASR 的成本收益会持续走差——同档算力下中文 CER 差了 10 个百分点的代价比往年任何时候都更刺眼。一个合理的迁移路径已经在公开栈里露出来:Whisper 系 → Paraformer 系 → 等 Fun-ASR-Flash 的权重或 API 进一步下沉。

第二,「开源权重 + 商业 API」的双轨制会成为国内云厂 ASR 的标配结构。Paraformer-zh-streaming(开源 + vLLM 标准推理栈)与 Fun-ASR-Realtime(闭源 + 阿里云商业 API)同时存在,而且同一家公司两条线都在打——这种结构原本是 Google / OpenAI 这种头部公司才有的(自研权重 + 商业 API),现在已经落到国内云厂也能复刻。开源权重用 Paraformer / Fun-ASR-Nano 抢生态,商业 API 用 Fun-ASR-Flash / Realtime 抢客户。单点 ASR 创业公司(只有开源权重或只有商业 API)的腾挪空间会被夹得越来越窄:要么变成某个云厂 ASR 团队的「前店」,要么变成 vLLM 上做中文流式 ASR 工程优化的服务商,中间道路越来越窄。

第三,下游产品规划先按住别动。榜一首字错率(AA-WER 1.7%,Artificial Analysis 第三方实测,高置信)与流式 100ms 首字(X 单源,低置信)来自两个不同置信等级的信源,而且 Fun-Realtime-ASR-preview 命名里带 preview,是榜单 review 期的快照模型,正式商用版本不一定是这套数字。等阿里放出官方延迟分布图(P50 / P95 / P99)、测试集细节(普通话单聊 vs 含方言与多人会议)、是否含 VAD 触发延迟、商业价格表之前,下游厂商应把「榜一首字错率」与「流式 100ms 首字」视作两个独立置信等级的数字,分别采纳——尤其不适合对外做「百毫秒 ASR 已就位」的产品 PR。

接下来看什么

  • 官方延迟分布图:阿里云百炼 / 通义听悟 / ModelScope 模型卡是否在 7 月内放出 Fun-ASR-Realtime 的 P50 / P95 / P99 延迟分布,以及测试集(普通话单聊 / 多方言 / 多人会议)、是否含 VAD 触发延迟。
  • 商业价格表:Fun-ASR-Flash 和 Fun-ASR-Realtime 是否在阿里云上放出官方定价,对照 ElevenLabs $3.67 / 千分钟、Smallest AI $3.50 / 千分钟的价格带,阿里的中文场景定价是否比英语商业档显著低。
  • Paraformer-zh-streaming(220M 开源)与 Fun-ASR-Realtime(百毫秒闭源)的技术栈:GitHub 仓库或 ModelScope 是否放出 Fun-ASR-Realtime 的架构说明,确认是同一套权重的工程优化,还是用了更大的闭源模型。
  • 国内同行的对标动作:字节火山、腾讯云、华为云、讯飞在 7 月内是否会放出对标的流式 ASR 延迟 / 精度数字,以及是否更新自己的 Artificial Analysis 榜单表现。
  • 应用层的反应:AI 数字人(字节、百度、智谱、商汤)、AI 客服(百应、容联)、AI 会议助手(飞书、通义、腾讯会议)是否在 7 月内宣布接入 Fun-ASR-Realtime,作为其流式语音链路的底层 ASR。
附:本文使用的关键证据与抓取状态
  • Artificial Analysis speech-to-text 榜单(已抓取):确认 Fun-Realtime-ASR-preview AA-WER 1.7% 排名 58 个模型第一,但速度因子与价格栏为空白,ElevenLabs Scribe v2 2.2% / Microsoft Azure MAI-Transcribe-1.5 2.4% / Smallest AI Pulse Pro 2.4% 为同档对照。
  • FunASR GitHub README(已抓取):确认 Fun-ASR-Nano 800M / 31 语种 / 中文 CER 8.20%,Paraformer-Large 中文 CER 10.18%,SenseVoice-Small 7.81%,Whisper-large-v3 20.02% / Turbo 21.71%;Paraformer-zh-streaming 220M、2026/05/24 加入 vLLM Streaming WebSocket 服务。
  • ModelScope fun-asr 模型卡(抓取失败,仅得标题):作为官方产品入口登记,不作为正文事实来源。
  • FunASR benchmark.html(未抓取):作为官方基准页登记,不作为正文事实来源。
  • X @0xLogicrw 推文(URL 已登记,正文未抓到):100ms 首字延迟爆料的唯一信源,confidence: low。