Topic Timeline

#本地 LLM

这个主题在过往早报中的出现记录。深度条目直达研究报告，其余条目回到当日 edition。

产品上新 2026-07-05 · 周日重要度 3/5

GitHub 738★:jamesob「本地运行 LLM 一切我所知」

jamesob 维护的 jamesob、local-llm 仓库 738★,系统整理本地运行 LLM 的硬件选型、模型量化、推理框架、显存调优,是当下最完整的本地 LLM 攻略。
- 738★ 的含金量不在具体参数,而在它代表本地 LLM 从极客玩具走向工程化参考资料的拐点。
- 开发者面对 frontier API 涨价、隐私合规、离线场景时,「本地能跑哪些模型」突然成为必备知识。