self-hosted-ai-starter-kit: a Docker Compose template for quickly initializing a self-hosted local AI and low-code development environment

self-hosted-ai-starter-kit: a Docker Compose template for quickly initializing a self-hosted local AI and low-code development environment

What it solves

このプロジェクトは、ユーザーが AI ワークフローをローカルで素早くデプロイして実行できるように、事前に設定された環境を提供します。複数の AI ツール(LLM、ベクトルストア、自動化プラットフォームなど)をインストールして接続する複雑なセットアッププロセスを排除し、単一の Docker Compose テンプレートを提供することで実現します。

How it works

Docker Compose を使用して、互換性のある AI コンポーネントのスイートをオーケストレーションします。キットには以下が含まれます:

  • n8n: 400 以上の統合を備えた、AI ワークフローを設計および自動化するためのローコードプラットフォーム。
  • Ollama: Llama 3.2 などのローカル LLM を実行するためのプラットフォーム。
  • Qdrant: AI データの管理と取得のための高パフォーマンスベクトルストア。
  • PostgreSQL: 大量のデータを安全に扱うためのデータベース。

ハードウェア(Nvidia GPU、AMD GPU、または CPU)に応じて、特定の Docker プロファイルを使用してスタック全体を起動できます。

Who it’s for

オンクラウドの AI サービスに依存せずに、AI エージェント、プライベートドキュメント分析ツール、またはよりスマートなボットを構築およびテストしたい開発者および AI 愛好家。データのプライバシーを確保し、コストを最小限に抑えることができます。

Highlights

  • ワンクリックデプロイメント: Docker Compose プロファイルを使用して、異なるハードウェア構成(Nvidia、AMD、および CPU)に対応。
  • ローカルファーストアプローチ: Ollama を介したローカル LLM と Qdrant を介したベクトルストアを組み合わせ、データをプライベートに保ちます。
  • ローコード自動化: n8n の AI ノード(AI Agent、Text Classifier、Information Extractor など)を活用して、複雑なワークフローを構築します。
  • ローカルファイルアクセス: n8n がローカルファイルシステムとやり取りできる共有フォルダーのマウントを含みます。

Sources