av/harbor

Stop configuring your AI stack. Start using it. One command brings a complete pre-wired LLM stack with hundreds of services to explore.

解決する課題

Harborは、ローカルAIスタックを実行するために必要な複雑な手動セットアップを排除します。バックエンド、フロントエンド、サポートツールを個別にインストールして構成する代わりに、プロセス全体を自動化するため、ローカルLLM、Web検索、音声チャット、画像生成をすぐに使い始めることができます。

仕組み

Harborは、Docker Composeのオーケストレーションを管理するコマンドラインインターフェース(CLI)およびコンパニオンアプリとして機能します。harbor upのようなコマンドを実行すると、サービス間の構成とネットワーク接続が自動的に処理されます。選択したLLMバックエンド(OllamaやvLLMなど)をフロントエンド(Open WebUIなど)に接続するなど、コンポーネントを事前配線するため、箱から出してすぐに連携して動作します。また、これを使用してローカルモデルを既存のコーディングツールに注入したり、複雑なエージェントワークフローをスクリプト化したりすることも可能です。

対象ユーザー

システム構成、ネットワーク、依存関係の管理に時間を費やすことなく、ローカルAIインフラストラクチャを実行したい開発者やAI愛好家向けに設計されています。特に、独自のハードウェアでさまざまな推論エンジン、エージェントコーディングツール、RAGセットアップを試したい方に最適です。

ハイライト

  • harbor upを使用した完全なAIスタックのシングルコマンドデプロイメント。
  • SearXNG、ComfyUI、Speachesなど、幅広いバックエンド、フロントエンド、衛星サービスをサポート。
  • Webリサーチや成果物監査を含む、Harbor Boostを介したエージェントコーディングワークフローの組み込みサポート。
  • VS Code、Claude、Copilotなどのホストネイティブなコーディングツールとの容易な統合。
  • Harborから離れたい場合に、現在の構成をスタンドアロンのDocker Composeファイルとしてエクスポートできる柔軟な「イジェクト」機能。
  • モバイル用のQRコード生成やインターネット公開用の組み込みトンネリングなど、リモートアクセス用のツールが含まれています。

関連

  • Dispatch
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト