Topic Timeline
#H20
这个主题在过往早报中的出现记录。深度条目直达研究报告,其余条目回到当日 edition。
- 技术研究2026-08-20 · 周四重要度 4/5深度报告 →
LMSYS拆解V4-Pro在H20上的服务优化
LMSYS 8月19日发布DeepSeek-V4-Pro H20服务优化报告,新增内容是推理profile、显存容量和decode吞吐的工程拆解。
- 这条是大模型在受限硬件上继续榨效率的工程样本,而非新模型发布。
- 它说明MoE服务竞争已经从单一benchmark进入profile、KV容量和speculative decode的组合优化。
- 行业动态2026-08-08 · 周六重要度 3/5
HPC-Ops披露特定配置TPOT最高降48.8%
LMSYS于北京时间8月8日发布联合技术稿,披露HPC-Ops Attention与MoE在Hy3-FP8、8×H20、batch 32测试中,使TPOT相对SGLang默认实现最高降低48.8%。五个相关PR均在7月合入。
- 当天新增是完整设计与基准披露,代码合入发生在7月。
- 48.8%属于联合后端的端到端结果