llama.cpp达10万星，预测本地AI代理将普及

llama.cpp 达到 10 万星标。

既然全球 90% 的代码都是由 AI 代理编写的，我预测在 3-6 个月内，90% 的 AI 代理将在本地运行 llama.cpp 😄。

玩笑归玩笑，我想借此小里程碑回顾一下项目，并从本地应用的角度谈谈 AI 现状。有很多话想说，但越来越觉得没必要刻意表达观点。关于本地 LLM 可行性的观点两极分化严重，细节被忽视，缺乏科学方法。争论主要基于感觉和炒作。

有一点很明确——本地 LLM 的使用越来越多。我预计这一趋势将持续，2026 年很可能成为本地 AI 运动最重要的年份之一。

我承认，没想到代理时代会这么快来到本地 LLM 领域。一年前，现有模型在长上下文任务上计算成本太高。通往有意义代理应用的路径并不明显。内存和计算需求巨大。去年夏天，随着 gpt-oss 的发布，情况开始改变。我们第一次看到了在日常设备资源限制下实际运行良好的工具调用。后来，更好的模型发布，现在，有用的本地代理工作流已成为现实。

在某个时间点比较本地与托管能力毫无意义。换个角度看：

- 我们不需要前沿智能来自动搜索和发送邮件。
- 我们不需要万亿参数模型来总结文章或技术文档。
- 我们不需要庞大的 GPU 数据中心来控制家电或关掉车库灯。

我相信，存在一个人类能够理解并有意义利用的智能水平，以改善工作流程。超出那个水平，获取更多智能最多是不必要的，最坏情况下会适得其反。我还相信，这个有用的人工智能水平完全可以在本地实现，一直以来只需实现正确的软件栈将其带给终端用户。

通过 llama.cpp，我确信我们正走在构建该软件栈的正确道路上！

llama.cpp 项目比以往更强大。拥有超过 1500 名贡献者，项目稳步增长。

从技术角度看，我认为 llama.cpp + ggml 是唯一有意义的解决方案。也就是说，软件栈必须在每种可能的设备、硬件和操作系统上高效运行。这项技术太重要了，不能被供应商锁定。它必须由社区与独立硬件供应商一起公开开发。这是构建真正产生长期影响的唯一正确方式。

我不会试图说服你本地 AI 目前和将来能做什么。我们会像往常一样继续构建。我相信，当烟雾散去，我们客观审视共同构建的成果时，好处对所有人都是显而易见的。

特别感谢所有 llama.cpp 维护者。能与如此多有才华的贡献者共事，我感到极其幸运。每天我都能学到新东西，感觉还有更多酷炫的东西等着我们去构建。同时，我非常感激项目继续拥有可靠的合作伙伴支持！

干杯！