本文要点
- Hy3 从 Preview(2026-04-13,model_type=hy_v3)升级为正式版,295B 总参、21B 激活、192 专家 top-8。
- 推理栈原生 token 体系:Hy3 引入 hy_User、tool_call、think 等特化 token。
- 部署侧 vLLM 与 SGLang 双栈给出 MTP(Multi-Token Prediction)recipe,建议 H20-3e × 8 起步。
阅读辅助
先看数字、证据和来源，再读正文。
Hy3 是 295B 总参数、21B 激活、192 专家 top-8 的 MoE 模型,256K 上下文,Apache 2.0
2026-04-13 · 腾讯混元在 Hugging Face 发布 Hy3 Preview,model_type=hy_v3,起手即为 MoE 架构
2026-07-06 23:06 北京时间,腾讯混元官方在 X 发了一行发布语,这一行里压着三件单独拎出来都够开一篇深度页的事:295B MoE、Apache 2.0 商用许可、两周免费 API。13 分钟后,姚顺雨以项目负责人身份补充了定性——「Hy2 → Hy3 preview → Hy3. Another massive leap forward, under half a year. Not just a leap of reasoning or agentic capabilities. Also a leap of anti-hallucination, reliability, and product experiences.」——「可靠性」与「产品体验」被直接挂到了对外叙事的关键词位。
接下来的 24 小时里,这三件事各自牵出副事件:海外社区同步接入、社区量化齐出、推理框架原生支持、消费级部署路径被打开。等到 2026-07-07 06:32 Nous Portal 把 Hy3 与 Step 3.7 Flash 同时免费时,这就不再是「一次模型发布」,而是「一次发布叠加了四件可独立成篇的事」——下文按四件事的顺序展开。
模型规格事件:在「万亿」与「极致小」之间锚定一个中位
Hy3 的硬件友好度比同等规模旗舰明显更好。21B 激活 + 256K 上下文 + 192 专家 top-8,意味着单请求计算量与 70B dense 模型相当,而总容量接近 300B。官方推荐 8×H20-3e 起步部署;启用 MTP(Multi-Token Prediction)后,推测解码吞吐量可获 1.5-2 倍提升——但官方未给具体数字。
架构细节(hidden size 4096、intermediate size 13312、80 个 non-MTP 层 + 1 个 MTP 层、64 个 attention head 通过 GQA 共享到 8 个 KV head、head dim 128、vocab 120,832)与 Hunyuan-A13B 的 HunYuanMoEV1 架构一脉相承,但专家数从 64 推到 192、top-k 从 2 推到 8、vocab 从约 100K 推到 120K。腾讯混元的 MoE 工程链(HunYuanMoEV1 → Hunyuan-A13B → Hy3)是连续演进,而不是另起炉灶——对企业迁移比 DeepMind 这种需重新训练 tokenizer 与 routing 层的演进更友好。
这次最值得标注的取舍,是 21B 激活。 295B/21B 的 14:1 总参激活比,意味着单请求推理硬件门槛接近 70B dense 模型,而总容量提供近 300B 的知识储备。70B dense 在 2026 年已经是消费级 4-GPU 节点可覆盖的部署成本——Hy3 在「成本可控」与「容量储备」之间找到了一个工程上能落地的中间点。MTP 层的存在让 Hy3 多了 3.8B 参数,但推理时并不常驻激活路径;vLLM/SGLang 都给出 --speculative-num-steps 2 的启动开关,意味着 speculative decoding 默认启用——这是 DeepSeek-V3 系列后才在国产开源中常见的设计。
官方自报的「可靠性」口径
| 维度 | Hy3 Preview 基线 | Hy3 现版 | 改善幅度 |
|---|---|---|---|
| 内部真实场景幻觉率 | 12.5% | 5.4% | -56.8% |
| 通用常识错误率 | 25.4% | 12.7% | -50.0% |
| 多轮对话 issue 率 | 17.4% | 7.9% | -54.6% |
| SWE-Bench Verified 跨 scaffolding 方差 | 未给出 | <4% | 口径首次公布 |
| 270 专家盲评(0-4 分) | 未给出 | 2.67 vs GLM-5.1 2.51 | +0.16 |
这些数字有两个值得标注的地方:其一,全部来自腾讯自报,评测集、专家结构、GLM-5.1 对照口径均未公开,外部无法独立复算。其二,「跨 scaffolding 方差 <4%」是相对差距,不代表绝对分高——这意味着 Hy3 强调的是「换 agent harness 不掉链子」,而不是「绝对分碾压」。
社区响应事件:24 小时内四条量化路径齐出
不到 24 小时,社区已经把它量化出四条路径:
| 量化版 | 类型 | 上传时间 | 来源 |
|---|---|---|---|
tencent/Hy3-FP8 | FP8 | 2026-07-04 | 腾讯官方 |
kodelow/Hy3-NVFP4-W4A16 | NVFP4(W4A16) | 2026-07-06 | 社区 |
olka-fi/Hy3-MXFP4 | MXFP4 | 2026-07-06 | 社区 |
mmangkad/Hy3-NVFP4 | NVFP4(modelopt) | 2026-07-06 | 社区 |
叠加 Hugging Face Spaces 上 akhaliq/Hy3、akhaliq/Hy3-new 两个一键体验入口(akhaliq 是公认的 HF Spaces「日更最快」curator),以及 vLLM 与 SGLang 在 GitHub 仓库里同步发布的部署 recipe——tool-call-parser hy_v3、reasoning-parser hy_v3、MTP 全部独立配置,不是「塞进通用 chat 模型」凑合。
2026-07-07 06:32,Nous Research 同步宣布 Hy3 在 Nous Portal 免费两周,主打 cost-effective agentic use、coding、tool-calling reliability、reasoning、256K 长上下文。Nous 把「tool-calling reliability」单独列为卖点——这是「product-grade tool-call reliability」这条腾讯官方口径的第一次独立第三方回响,比参数对比更有说服力。
这次「24 小时四量化齐出」的密度背后,是腾讯混元为开源提前铺好了工程链——Hy3 在正式版开源之前,就已经把 vLLM 与 SGLang 两条主流推理框架的 --tool-call-parser hy_v3、--reasoning-parser hy_v3 适配 PR 提进了上游。这意味着社区拿到权重后不必 fork 推理框架,直接对接官方 chat_template 就能跑 tool-calling 与 reasoning 分支。这与 DeepSeek-V3 当年的待遇一致,属于「生产级推理框架一等公民支持」,而不是「社区凑合适配」。
Hy3 的 chat template 引入了完整特化的 agent token 体系,这是相对 Hunyuan-A13B 的一次升级:
- 角色 token:
<|hy_User:opensource|>、<|hy_Assistant:opensource|> - 思考 token:
<think:opensource>、</think:opensource> - 工具调用 token:
<tool_calls:opensource>、<tool_call:opensource|>、<tool_sep:opensource|>、<arg_key:opensource|>、<arg_value:opensource|> - 工具响应 token:
<tool_responses:opensource>、<tool_response:opensource|> - 推理 effort 三档:
reasoning_effort ∈ {no_think, low, high},无 tools 时默认no_think,有 tools 时默认preserved_thinking=true
这套 token 设计意味着 Hy3 在 prompt 层就把 tool-calling 与 reasoning 做了清晰的 token 级隔离——下游 agent harness 不必再自造 function_call XML 包装,只要按模板渲染即可。
24 小时内完成 Nous Portal 接入 + 4 条量化路径 + vLLM/SGLang recipe + 2 个 HF Spaces,这种生态同步密度在国产开源旗舰中只有 DeepSeek-R1(2025-01)与 Kimi K2(2026-04)达到过。Qwen3-Next 与 GLM-5.1 发布时都没有「24 小时四量化齐出」的密度——Hy3 的工程链显然在正式版开源之前就已经为下游铺好了路。
商业策略事件:Apache 2.0 + 两周免费 API 的双重让利
DeepSeek-V3 用「修改版 MIT」既给开源又留余地;Qwen3 用 Apache 2.0 但 token API 价格不便宜;GLM-5 社区授权不统一,让企业法务头疼。Hy3 的组合是 「Apache 2.0 + API 免费两周」——既不限制商用,又给体验窗口。这在 295B 级别的旗舰开源模型中是激进派。
为什么是「双管齐下」而非单一动作? 单独 Apache 2.0 已经够开发者下载部署,但企业 IT 在「能下载」与「值得花工程师时间评估」之间还差一道试用摩擦;单独免费 API 解决试用摩擦,但 license 不友好会让企业法务直接拒签。两个动作绑在一起,正好覆盖「能下载 → 值得评估 → 法务通过」三个决策环节。从腾讯云的角度看,这两周免费 API 几乎相当于「无上限的开发者 onboarding 实验」——比起花市场预算请 KOL 测评,让 1 万个独立开发者在真实任务里跑一遍 Hy3,获客质量更高、流失率更低。这也是为什么 Nous Portal、Tencent Cloud、海外伙伴三条渠道同时启动,而不是只走一条。腾讯的赌注很清晰:让海外开发者先在 Nous Portal 玩两周,形成认知后再付费 API 或自部署。这条路在 Llama-3.1-405B 时代被 Meta 走过(API + 开源同时),但 Llama 没给免费窗口;Hy3 的「两周免费」更接近 Mistral 的早期营销策略——把试用摩擦降到零。
回看时间线:Tencent Hunyuan 自有 HunYuanMoEV1 架构首批落地 Hunyuan-A13B-Instruct 在 2026-06-25(13B 激活 / 64 专家 top-2),Hy3 Preview 在 2026-04-13 已经上线 HF,正式版在 2026-07-06 开源。84 天内从 Preview demo 走到 Apache 2.0 + 免费 API + 四条社区量化,这种节奏在国内大厂里不常见。同期智谱 GLM-5.1、阿里 Qwen3-Next 的迭代节奏都被「内部 benchmark 复盘 → 业务线抽人」拖慢。姚顺雨那句「so proud of the team」的分量,可能是 Hy3 这次发布最被低估的信号——它说明这场发布不是「某个研究组交作业」,而是混元团队已经把「开源 → 社区响应 → 法务签字 → 商用转化」这条流水线跑通了。
与同期开源旗舰对照:中型 MoE 路线的中段样本
| 模型 | 总参 / 激活 | 架构 | 上下文 | 许可证 | 发布时间 |
|---|---|---|---|---|---|
| Tencent Hy3 | 295B / 21B | MoE 192 专家 top-8 + MTP | 256K | Apache 2.0 | 2026-07-06 |
| DeepSeek-V3.5 | 685B / 37B | MoE 256 专家 top-8 + MLA | 128K | 修改 MIT | 2026-05 |
| Qwen3-Next-80B | 80B / 3B | MoE 512 专家 top-10 | 256K | Apache 2.0 | 2026-06 |
| GLM-5.1 | 357B / 22B | MoE + Dense hybrid | 200K | 社区授权不统一 | 2026-06 |
| Kimi K2 | 1T / 32B | MoE 384 专家 top-8 + Muon | 128K | Modified MIT | 2026-04 |
| Hunyuan-A13B(同源前代) | 80B / 13B | MoE 64 专家 top-2 | 256K | Tencent 自有 | 2025-06 |
几个关键对比观察:
21B 激活是「中等尺寸旗舰」的甜点档。 接近 GLM-5.1 的 22B 激活,但总容量略小;比 Qwen3-Next 80B/3B 多 7 倍激活参数,推理能力上限更高;比 DeepSeek-V3.5 的 37B 激活低约 43%,但上下文翻倍(256K vs 128K)。
256K 上下文 + 120,832 vocab 是面向 agent / 长文档场景的明确取舍。 对比 DeepSeek-V3.5 的 128K,Hy3 在长上下文任务上的硬件余量更宽,但单请求 KV cache 占用也更高——这正是 Nous Research 把 256K 作为卖点单独提及的原因。
192 专家 top-8 是「专家粒度更细、激活更准」的路线。 同样的 top-8,DeepSeek-V3.5 用 256 专家,Hy3 用 192 专家;专家粒度对长尾知识的覆盖效率需要等独立复现验证。
Hy3 与 Qwen3-Next-80B、GLM-5.1 共同构成 2026 年的「非万亿」国产开源旗舰阵营。共同点是:总参 300B 量级 + 激活 20B 上下 + Apache 系许可证。这条路线隐含的判断是:在 trillion-scale 闭源旗舰(Claude Mythos、GPT-5.6、DeepSeek-V5 pre-train)主导榜单的格局下,开源侧的性价比最优解不再是「越大越好」,而是「激活数可控 + 上下文大 + 工具稳」。Hy3 是这条路线上目前最完整的产品化样本——比 Qwen3-Next 的 3B 激活更接近通用场景需求,比 GLM-5.1 的混合授权更易过法务。
字节豆包、阿里通义、智谱 GLM、月之暗面 Kimi 都已发布旗舰开源。Hy3 的「Apache 2.0 + 免费两周」组合,会让所有正在评估国产开源旗舰的企业 IT 团队重新排优先级。特别是在跨境数据合规允许用国内模型的场景(东南亚、中东、部分拉美),Hy3 的「低激活 + 长上下文 + 商用无附加条款」会成为首选。
「product-grade tool-call reliability」是 Hy3 真正的差异化,不是参数。 SWE-Bench Verified 跨 scaffolding 方差 <4% 这条口径,意味着同一个 prompt 换 CodeBuddy、Cline、KiloCode 不掉超过 4%——这恰好是企业 agent harness 切换时的最大痛点。DeepSeek-V3、Qwen3-Next 都没有公布过这一指标。如果这条指标能扛住独立第三方复现,Hy3 会成为企业 agent 平台的首选底座;反过来,如果 4% 方差是在 30% 这种低位上的稳定、而 DeepSeek-V3 是在 60% 高位上的稳定,Hy3 的「可靠性」就要打折扣。这也是 Nous Research 把「tool-calling reliability」单独列为卖点的原因——独立第三方对这条口径的回响,比腾讯自报的 270 专家盲评更有公信力,因为盲评的样本结构、专家选取规则、GLM-5.1 对照方法全部不公开。换句话说,Hy3 把「可靠性」从「自报指标」推到了「海外独立平台愿意为之背书」的层级,这是国产开源旗舰过去半年没做到过的事。
Apache 2.0 + 两周免费 API + 84 天迭代节奏,共同构成一次押注海外开发者心智的抢位战——而组织能力是被低估的底牌。 腾讯很清楚:DeepSeek-V3 用「修改版 MIT」+ 低价 API 已经把国内开源生态的定价预期锁死在低位;Qwen3-Next 走 Apache 2.0 但 API 不便宜;GLM-5.1 社区授权不统一让企业法务退缩。Hy3 直接把所有摩擦降到零,核心目的是两周内让海外开发者形成「Hy3 ≈ free DeepSeek」的认知锚,之后再靠 Nous Portal、Tencent Cloud、海外伙伴的 token API 收费。这是一次赌「先到先得」迁移成本的押注——赌的是开源生态一旦养成使用习惯,后面即使收费也很难迁移。但这条押注能成立的前提是腾讯混元团队能持续以接近当前的节奏出新——Hy2 → Hy3 Preview → Hy3 不到半年的迭代已经证明了 HunYuanMoEV1 架构的连续演进能力,但下一代旗舰能否守住这个节奏,才决定「先到先得」的认知锚是稳态还是瞬态。智谱 GLM、阿里 Qwen 在「内部 benchmark 复盘 → 业务线抽人」的节奏里被拖慢,这意味着腾讯押的不是一次开源,是一个组织引擎能不能持续输出可比质量的旗舰——这才是这场押注真正的下注面。如果下一轮混元旗舰能在 4 个月内再次开源,「先到先得」的认知锚会从 Hy3 扩散到「腾讯混元 = 高频迭代的开源派」;如果节奏断档,这次的拉新效果会被 DeepSeek / Qwen 的下一次旗舰开源清零。这是 Hy3 发布两周内最值得跟踪,但又没有公开信号的指标。
caveat 与接下来看什么
270 专家盲评的样本结构、专家选取规则、GLM-5.1 对照方法全部不公开——外部无法复算;腾讯自报口径,GLM-5.1 一方未回应。SWE-Bench Verified 的绝对得分未公开,4% 方差是相对量,没法判断 Hy3 是「高位稳定」还是「低位稳定」。「API 免费两周」之后的商用定价未公布——如果比 DeepSeek-V3 当前 token 价显著更贵,免费窗口的获客效果会被抵消。Apache 2.0 license 字段在 HF 上明确,但下游商用条款(如对模型输出责任、对 fine-tune 后模型命名)未明确——参照 Hunyuan-A13B 的「HF 字段写 Apache 2.0、license_link 实际指向 Tencent 自有 LICENSE」模式,Hy3 是否复现要等 LICENSE 文件全文核对。MTP 层的 3.8B 参数对实际推理时延的影响官方只字未提,仅有 vLLM/SGLang 的启动开关——独立基准测试出来前,「21B 激活的实际解码成本」是黑盒。
第三方榜单出分是验证关键:OpenRouter 月榜会给出 Hy3 的 token 占比与价格弹性;LMArena 会给出盲评分布;如果 Hy3 进了 Hugging Face Open LLM Leaderboard 第二轮,会是「开源旗舰可被独立验证」的硬证据。如果 Hy3 在公开榜单上的名次与腾讯自报口径相差超过 5 名,「270 专家盲评」的可信度要重新评估。
W4A16 / W8A8 在消费级 GPU 的部署实测:kodelow/Hy3-NVFP4-W4A16、olka-fi/Hy3-MXFP4 已经上传,但生产稳定性未验证。如果 4 比特量化能在 24GB 消费级 GPU(4090、5090)上完成 256K 上下文的稳定推理,Hy3 的可部署范围会从云端扩到本地。
同期 GLM-5.1、DeepSeek-V3.5、Qwen3-Next-80B 的应对:GLM-5.1 智谱、DeepSeek 深度求索、阿里通义千问是否会在 7 月内对 Hy3 的「Apache 2.0 + 免费 API」组合做回应,会定义下一阶段国产开源旗舰竞争的主轴——是继续卷 benchmark,还是开始卷产品体验。
与同期 Anthropic J-space、OpenAI GPT-5.6 的对照:本期同框的还有 Anthropic 的 mech-interp J-space 研究、OpenAI 的 GPT-5.6 Sol/Terra/Luna 三档、Alberta 政府用 Claude Code 现代化 4.66 亿行代码等。Hy3 选择走「产品级」叙事,与同期闭源前沿在「能力发现」(如 Altman「discovering new math」)的叙事形成镜像——一端在「让模型干更稳的活」,另一端在「让模型做更大的事」。两边谁先触达用户痛点,会决定 2026 下半年开源与闭源的边界。