Harbor

Hey PH 👋

我是 Ivan，Harbor 的作者。

为这玩意儿忙活了快两年。Harbor 的诞生是因为我受够了每次想试个新的本地 LLM 项目时，晚上都得花时间折腾 Docker Compose 文件。本来只想写个周末脚本，结果发现这问题比想象中更大，最后长成了一个包含 129 个服务的目录。

核心理念是：本地 AI 服务应该开箱即用、互相协作。harbor up 就能给你跑起 Open WebUI 和 Ollama。想加更多服务就按名字来，比如 harbor up searxng speaches comfyui，Harbor 会自动处理它们之间的连接。SearXNG 已经连上了你的聊天界面，语音也能用了，图像生成也好了。不用写任何 Compose 文件，也不用记端口。

这个目录覆盖很广：有 16 个聊天和创意前端（Open WebUI、LibreChat、SillyTavern、ComfyUI 等），21 个 LLM 后端（Ollama、llama.cpp、vLLM、SGLang、KTransformers 等），还有 90 多个卫星组件，涉及网页搜索、语音、RAG、向量数据库、n8n 和 Dify 这样的工作流引擎、用 Unsloth 做微调、评测工具、监控等等。

所有东西都在本地运行，互相通信，一个 harbor up 搞定。最新版本加了 harbor launch，这是我最兴奋的功能。它可以让你在本地栈上跑编码智能体，比如 Claude Code、Codex、Copilot 和 OpenCode，不用动任何一个环境变量。harbor launch --web 还会给它们提供网页搜索，并在后台拉起整个流程。Harbor 还暴露了一个兼容 OpenAI 的 API，所以任何会说 OpenAI 话的工具或 SDK 代码，都可以直接指向你的本地模型作为替代品。

MIT 许可，无遥测，所有数据都留在你机器上。提供 CLI 和 Linux/macOS 桌面应用。如果你在跑本地模型，又厌倦了手动拼凑各种东西，不妨试试。

欢迎提问架构、支持的服务或特定工作流的相关问题。