av/harbor

Stop configuring your AI stack. Start using it. One command brings a complete pre-wired LLM stack with hundreds of services to explore.

它解决了什么问题

Harbor 消除了运行本地 AI 堆栈所需的复杂手动设置。它不再需要单独安装和配置后端、前端及支持工具,而是自动化整个过程,让你能够立即开始使用本地 LLM、网络搜索、语音聊天或图像生成。

工作原理

Harbor 作为一个命令行界面 (CLI) 和配套应用程序,为你管理 Docker Compose 编排。当你运行类似 harbor up 的命令时,它会自动处理服务之间的配置和网络连接。它预先连接了组件——例如将选定的 LLM 后端(如 Ollama 或 vLLM)连接到前端(如 Open WebUI)——使它们能够开箱即用。你还可以使用它将本地模型注入到现有的编码工具中,或编写复杂的代理工作流脚本。

适用人群

它专为希望在不花费时间进行系统配置、网络设置或依赖管理的情况下运行本地 AI 基础架构的开发人员和 AI 爱好者设计。对于那些希望在自己的硬件上尝试不同推理引擎、代理编码工具或 RAG 设置的用户特别有用。

亮点

  • 使用 harbor up 一键部署完整的 AI 堆栈。
  • 支持广泛的后端、前端和卫星服务,如 SearXNG、ComfyUI 和 Speaches。
  • 通过 Harbor Boost 内置对代理编码工作流的支持,包括网络研究和交付物审计。
  • 与 VS Code、Claude 和 Copilot 等宿主机原生编码工具轻松集成。
  • 灵活的“弹出”(eject) 功能,如果你想脱离 Harbor,可以将当前配置导出为独立的 Docker Compose 文件。
  • 包含远程访问工具,例如用于移动设备的二维码生成和用于互联网暴露的内置隧道。

相关

  • Dispatch
  • 项目
  • 项目
  • 项目
  • 项目