Topic Timeline
#vLLM
这个主题在过往早报中的出现记录。深度条目直达研究报告，其余条目回到当日 edition。
- Agent工程2026-10-02 · 周五重要度 3/5
Baseten自测LLM生成推理引擎
Baseten 10月2日发布工程博客，称用LLM生成推理引擎可在特定实验中比vLLM快最多90%。
- 这条更像推理基础设施的工程线索，而不是通用性能结论。
- 值得看的地方是LLM开始参与内核和引擎优化，但数字仍受模型、硬件、负载和团队实现约束。
- 模型发布2026-09-21 · 周一重要度 5/5深度报告 →
Qwen-Image-2.1开源统一生成与编辑
Qwen 9月20日发布 Qwen-Image-2.1，开放7B视觉生成组件，支持文本生图、图像编辑、RGBA透明图层和原生2K输出。
- 这次增量不只在模型权重开放，而在首日适配链路。
- Diffusers、ComfyUI、vLLM-Omni、SGLang和LightX2V同步支持，说明开源图像模型竞争已经从单点效果转向可部署生态。
- 产品上新2026-06-26 · 周五
NVIDIA/vLLM 发布 GLM-5.2 NVFP4 量化版,一行命令本地起服务
NVIDIA 与 vLLM 官方发布 GLM-5.2 的 NVFP4 4-bit 量化 checkpoint,vllm serve nvidia/GLM-5.2-NVFP4 即可起 OpenAI 兼容 API;针对 Blackwell 大幅削减 VRAM,且在推理/编码/1M 上下文上对精度持平。GLM-5.2 为 753B 参数 MoE,擅长 agentic 负载。
- NVFP4 让 753B 级开源模型在单机 Blackwell 上零云成本跑 agentic 负载成为现实,是开源权重"可用性"的一次实质跃迁。
- 但它也暴露矛盾:开源模型要靠 NVIDIA 官方量化才好用,硬件生态话语权仍握在闭源一方。