Topic Timeline
#成本优化
这个主题在过往早报中的出现记录。深度条目直达研究报告,其余条目回到当日 edition。
- Agent工程2026-10-01 · 周四重要度 4/5深度报告 →
LangChain把模型路由放进Agent Harness
LangChain 10月1日披露Open SWE路由实验,973个线程中位成本降64%,PR合并率未见可测变化。
- 模型路由从网关功能变成agent harness内部决策。
- 它要求任务上下文、历史反馈和eval结果一起进入选择逻辑,而不是只按模型价格排序。
- 模型发布2026-09-24 · 周四重要度 3/5
Fireworks发布Ember-1压缩推理token
Fireworks Research 9月23日发布Ember-1,称基于Kimi K3训练,在质量保持时减少35%到50%推理token。
- Ember-1把推理模型成本问题拆成训练问题,而不是只调低reasoning effort。
- 它仍是厂商自报结果,价值要看外部任务复测和Fireworks后续模型系列。
- 产品上新2026-09-23 · 周三重要度 5/5深度报告 →
OpenAI改进GPT-6提示词缓存
OpenAI 9月22日发布GPT-6提示词缓存更新,cached input tokens最高享90%折扣,并新增仪表盘和诊断工具。
- 这次更新把Agent长上下文成本从模型问题变成工程可观测性问题。
- 缓存命中率、工具schema稳定性和预热策略会进入应用架构设计。
- 观点观察2026-09-03 · 周四重要度 3/5
GitHub披露Copilot任务级降本方法
GitHub博客9月2日解释Copilot如何在不牺牲任务质量前下降低成本,并称代码审查成本曾下降约20%。
- GitHub把降本口径从token数转向完成任务的总回合数。
- 对编码Agent产品来说,效率优化常发生在工具输出、上下文裁剪和后台工作交付层。
- 产品上新2026-09-02 · 周三重要度 4/5深度报告 →
Gemini视频理解引入agentic取帧
Google DeepMind 9月1日发布Gemini agentic video understanding,称API可用,token最多减少88%,准确率最多提升7%。
- 这条更新把长视频理解从固定抽帧推向按任务选择证据。
- 节省token只是表层收益,更大的问题是模型能否稳定决定何时看帧、何时看转写、何时追问音频。
- 研究论文2026-08-15 · 周六重要度 3/5
LLMRouter进入HF每日论文榜
Hugging Face在8月14日把LLMRouter推入每日论文流。原论文发表于8月7日,主张把LLM路由统一成序贯决策问题,并提供评估与部署基础设施。
- 低成本多模型编排需要比简单fallback更严谨的路由评估。
- 由于原论文并非当天发布,这更适合作为研究关注度跟进,而非新论文首发。