self-hosted-ai-starter-kit: a Docker Compose template for quickly initializing a self-hosted local AI and low-code development environment
self-hosted-ai-starter-kit: a Docker Compose template for quickly initializing a self-hosted local AI and low-code development environment
What it solves
このプロジェクトは、ユーザーが AI ワークフローをローカルで素早くデプロイして実行できるように、事前に設定された環境を提供します。複数の AI ツール(LLM、ベクトルストア、自動化プラットフォームなど)をインストールして接続する複雑なセットアッププロセスを排除し、単一の Docker Compose テンプレートを提供することで実現します。
How it works
Docker Compose を使用して、互換性のある AI コンポーネントのスイートをオーケストレーションします。キットには以下が含まれます:
- n8n: 400 以上の統合を備えた、AI ワークフローを設計および自動化するためのローコードプラットフォーム。
- Ollama: Llama 3.2 などのローカル LLM を実行するためのプラットフォーム。
- Qdrant: AI データの管理と取得のための高パフォーマンスベクトルストア。
- PostgreSQL: 大量のデータを安全に扱うためのデータベース。
ハードウェア(Nvidia GPU、AMD GPU、または CPU)に応じて、特定の Docker プロファイルを使用してスタック全体を起動できます。
Who it’s for
オンクラウドの AI サービスに依存せずに、AI エージェント、プライベートドキュメント分析ツール、またはよりスマートなボットを構築およびテストしたい開発者および AI 愛好家。データのプライバシーを確保し、コストを最小限に抑えることができます。
Highlights
- ワンクリックデプロイメント: Docker Compose プロファイルを使用して、異なるハードウェア構成(Nvidia、AMD、および CPU)に対応。
- ローカルファーストアプローチ: Ollama を介したローカル LLM と Qdrant を介したベクトルストアを組み合わせ、データをプライベートに保ちます。
- ローコード自動化: n8n の AI ノード(AI Agent、Text Classifier、Information Extractor など)を活用して、複雑なワークフローを構築します。
- ローカルファイルアクセス: n8n がローカルファイルシステムとやり取りできる共有フォルダーのマウントを含みます。