av/harbor

Stop configuring your AI stack. Start using it. One command brings a complete pre-wired LLM stack with hundreds of services to explore.

해결하는 문제

Harbor는 로컬 AI 스택을 실행하는 데 필요한 복잡한 수동 설정을 제거합니다. 백엔드, 프론트엔드 및 지원 도구를 개별적으로 설치하고 구성하는 대신 전체 프로세스를 자동화하여 로컬 LLM, 웹 검색, 음성 채팅 또는 이미지 생성을 즉시 시작할 수 있습니다.

작동 방식

Harbor는 Docker Compose 오케스트레이션을 관리하는 명령줄 인터페이스(CLI) 및 컴패니언 앱으로 작동합니다. harbor up과 같은 명령을 실행하면 서비스 간의 구성 및 네트워크 연결을 자동으로 처리합니다. 선택한 LLM 백엔드(Ollama 또는 vLLM 등)를 프론트엔드(Open WebUI 등)에 연결하는 등 구성 요소를 미리 배선하여 즉시 함께 작동하도록 합니다. 또한 이를 사용하여 로컬 모델을 기존 코딩 도구에 주입하거나 복잡한 에이전트 워크플로우를 스크립트로 작성할 수도 있습니다.

대상 사용자

시스템 구성, 네트워킹 또는 종속성 관리에 시간을 들이지 않고 로컬 AI 인프라를 실행하려는 개발자와 AI 애호가를 위해 설계되었습니다. 특히 자신의 하드웨어에서 다양한 추론 엔진, 에이전트 코딩 도구 또는 RAG 설정을 실험하려는 사용자에게 유용합니다.

주요 특징

  • harbor up을 사용한 전체 AI 스택의 단일 명령 배포.
  • SearXNG, ComfyUI, Speaches와 같은 광범위한 백엔드, 프론트엔드 및 위성 서비스 지원.
  • 웹 조사 및 결과물 감사를 포함하여 Harbor Boost를 통한 에이전트 코딩 워크플로우에 대한 내장 지원.
  • VS Code, Claude, Copilot과 같은 호스트 네이티브 코딩 도구와의 쉬운 통합.
  • Harbor에서 벗어나고 싶을 때 현재 구성을 독립형 Docker Compose 파일로 내보낼 수 있는 유연한 "eject" 기능.
  • 모바일용 QR 코드 생성 및 인터넷 노출을 위한 내장 터널링과 같은 원격 액세스 도구 포함.

관련

  • Dispatch
  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트