av/harbor

Stop configuring your AI stack. Start using it. One command brings a complete pre-wired LLM stack with hundreds of services to explore.

Harbor – 1コマンドでローカルLLMスタックを構築

何であるか – HarborはCLI + デスクトップスタイルの補助アプリで、Docker-Composeを使って一連のAIサービス（LLMバックエンド、チャットフロントエンド、ウェブ検索、音声、画像生成、ワークフローツールなど）をオーケストレーションします。単一の harbor up … コマンドで、モデルサーバー（Ollama、llama.cpp、vLLM、…）、Open WebUIのようなUI、さらにSearXNGによるウェブRAG、Speachesによる音声認識/音声合成、ComfyUIによる画像生成など、多数のオプションサテライトを含む、すぐに使えるスタックが構築されます。

コアとなるアイデア

アイデア	意味
ゼロ設定起動	`harbor up` は必要なDockerイメージを取得し、composeファイルを作成、サービスを接続して起動します。手動でのネットワーク設定やenvファイルの編集は不要です。
プラグイン可能なバックエンド	Ollama、llama.cpp、vLLM、MLX、Docker-Model-Runnerなど、サポートされている推論エンジンのいずれかを選択すると、Harborはフロントエンドに対応するOpenAI互換エンドポイントを提供します。
豊富なUIカタログ	Open WebUI、LibreChat、AnythingLLM、ComfyUI、Voiceboxなど、20以上ものフロントエンドが、選択したモデルと接続されるように事前設定されています。
サテライトとエージェント	SearXNG（ウェブ検索）、Speaches（STT/TTS）、Dify、Flowise、n8n、Boost-エージェントモジュールなど、同じコマンドで追加でき、モデルに自動的に接続されます。
Boostワークフローエンジン	軽量な「エージェント」レイヤーにより、モジュール（quickhop、deephop、autocheck、diffscope）をカスタムワークフローに連結でき、モデル呼び出しの前後で実行できます。
ポータブルかつエクスポート可能	`harbor eject` コマンドで現在の設定を再現できる単純な `docker-compose.yml` が生成され、後からHarborから離れて移行できます。
便利なヘルパー機能	スマートフォンアクセス用のQRコード/URLショートカット、組み込みのTraefikリバースプロキシ、インターネット公開用のトンネリング（`harbor tunnel`）、コマンド履歴、各サービスごとの設定プロファイル。

クイックスタート（READMEから）

# CLIのインストール（リポジトリに提供されているスクリプトを使用） – その後：
harbor up               # Open WebUI + デフォルトのLLMバックエンドを起動
harbor up searxng speaches   # ウェブ検索と音声機能を追加

コマンドが完了すると、http://localhost:3000（または出力に表示されたポート）でUIを開き、チャット、ウェブ検索、画像生成を開始できます。

主な機能グループ

1. ローカルLLM

1つのコマンドで任意のサポートバックエンド（ollama、llamacpp、vllm、mlx、dmr、…）を実行できます。
macOSではホストネイティブなMetal/GPU推論（MLX/oMLX）をサポート – 計算にはコンテナが不要です。

2. フロントエンド（UI）

Open WebUI、LibreChat、AnythingLLM、ComfyUI、Voiceboxなど。
すべてのフロントエンドが、実行中のモデルエンドポイントに自動的に接続されます。

3. サテライトとツール

検索 – SearXNG、Perplexica、Morphic、Local Deep Research。
音声 – Speaches（STT/TTS）、Whisperベースのサービス。
画像 – ComfyUI + Flux統合。
ワークフロー／自動化 – Dify、Flowise、LangFlow、n8n、LitLyticsなど。

4. Boost – エージェント型コーディングアシスタント

事前構築済みモジュール（quickhop、deephop、autocheck、diffscope）。
workflows.yaml や環境変数でカスタムワークフローを定義可能。
CLIから呼び出し可能：harbor launch --workflow deephop … codex。

5. 開発用ヘルパー

harbor launch – 実行中のバックエンドを検出し、codex、claude、vscodeなどにOpenAI互換URLを注入。
設定プロファイル（harbor profile save …、harbor profile use …）。
履歴（harbor history）、各サービスごとの down/restart、および原子的な .env 修復。

一般的な利用シーン

利用シーン	Harborがどう役立つか
新しいLLMを試す	数秒で `ollama` や `llama.cpp` を起動し、目的のモデルをロード、Open WebUIでチャットを開始できます。
チャットボットにウェブ検索を追加する	`harbor up searxng` でSearXNGがモデルに自動接続され、UIでRAGスタイルの検索が可能になります。
音声優先のアシスタント	`harbor up speaches` で音声認識と音声合成のエンドポイントがチャットUIに接続されます。
ローカル画像生成パイプラインを実行する	`harbor up comfyui` でComfyUI + Fluxがインストールされ、同じOpen WebUIインスタンスからアクセス可能になります。
マルチステップAIワークフローを構築する	Boostワークフロー（例：`quickhop → autocheck → answer`）を定義し、`harbor launch --workflow …` で実行できます。
Dockerによる推論なしでノートPCで開発する	macOSではホストネイティブなMLX/oMLXバックエンドを使用可能。Harborは依然として周辺サービスをDockerで提供します。
外部にデモを共有する	`harbor tunnel` で一時的なパブリックURL（ngrok風）を生成し、サービスをインターネット公開可能。クイックデモに便利です。

インストールと使い始め

リポジトリをクローンしてCLIをインストール – リポジトリには harbor バイナリを $PATH に追加するスクリプト（install.sh）が提供されています。
Docker – HarborはDocker Composeに依存しています。Docker Desktop（またはDockerエンジン）が実行中であることを確認してください。
初回起動 – harbor up を実行すると、デフォルトスタック（Open WebUI + 軽量バックエンド）が取得され、起動します。
サービスの追加 – 例：harbor up ollama、harbor up searxng speaches、harbor up comfyui。
オプションのUI – 補助アプリ「Harbor App」はスタックのグラフィカルなビューとよく使うコマンドのショートカットを提供します。

ドキュメントとコミュニティ

Wiki – インストール、各サービス、Boostモジュール、CLIリファレンスの詳細ページ。
Discord – トラブルシューティングや機能リクエスト用の活発なチャット（discord.gg/8nDRphrhSF）。
リリースノート – 頻繁な更新（v0.5.x）で新しいバックエンド、Boostモジュール、安定性の改善が追加されています。
Ko-fi – README内のバッジからメンテナーサポートが可能です。

TL;DR

Harborは1コマンドでローカルAIエコシステム全体をオーケストレーションするツールです。Docker-Composeの細かい設定を隠蔽し、数十のUIや補助サービスとモデルサーバーを自動接続し、軽量なエージェントワークフローレイヤー（Boost）を追加します。ネットワーク設定やenvファイルの編集を気にせず、自分のマシン上でLLM、RAG、音声、画像生成を実行したい場合、Harborはすぐに使える拡張可能なスタックを提供します。