Topic Timeline
#本地推理
这个主题在过往早报中的出现记录。深度条目直达研究报告,其余条目回到当日 edition。
- 开源生态2026-10-12 · 周一重要度 2/5深度报告 →
待验证|lithos-metal补Apple推理内核
lithos-metal 10月11日连续合并5个PR,提交说明涉及M3 Ultra、M4 Pro、Apple9 tile、exact prefill attention和FP8 decode。
- 这是低置信开源信号,新闻点是Apple silicon本地LLM推理仍在靠kernel细节推进。
- 缺口是缺少独立benchmark和可复现吞吐对照。
- 工具生态2026-09-20 · 周日重要度 2/5
待验证|Jev评测与本地推理工具升温
过去24小时,OpenRouter、Teknium、LM Studio等账号围绕Jev评测、上下文压缩和本地推理速度发布实测或质疑。
- 这些信号说明工程圈正在把注意力从模型榜单转向裁判模型、上下文压缩和本地推理吞吐。
- 它们仍主要来自X单点实测,适合作为工具雷达而非新闻定论。
- 模型生态2026-08-16 · 周日重要度 2/5
少源跟进|Qwen3.8-27B进入本地运行栈
Qwen官方8月15日转发LM Studio、MediaTek和NVIDIA RTX Spark适配信息,显示27B模型从发布转向本地工具和端侧入口。
- 这条只能按工程跟进处理,因为非X新鲜来源不足。
- 它仍值得记录:开放权重是否被采用,往往取决于LM Studio、芯片厂和本地推理栈的首批适配速度。
- 模型发布2026-08-15 · 周六重要度 3/5
待验证|Qwen3.8-27B发布后生态迅速跟进
Qwen在8月14日宣布Qwen3.8-27B开放权重,Hugging Face API显示模型卡当天多次更新。SGLang、vLLM、Unsloth和Ollama等生态同步给出适配或运行方案。
- 这条的增量来自27B小模型与本地推理生态补齐。
- Max权重主体已在前期报道,关键能力仍多来自官方X和模型卡,需按待复测工程线索处理。
- 社区工具信号2026-07-11 · 周六重要度 2/5
待验证|AMD Ryzen AI Halo 上手引发本地 AI PC 讨论
Micro Center 上手 AMD Ryzen AI Halo,HN 讨论关注端侧推理、创作负载和 AI PC 功耗表现。
- 端侧 AI 的叙事正在从 NPU TOPS 走向实际工作负载。
- 当前缺口是这类上手体验仍不足以替代严谨 benchmark。