kossakovsky/selfhost-ai

解決する課題

プライベートAIインフラを構築するために必要な複雑な手動セットアップを排除します。LLM、エージェント、自動化のために数十もの個別のツールを設定する代わりに、ユーザーは単一のコマンドで、30以上のオープンソースAIツールを統合した完全なスタックを自身のサーバーにデプロイできます。

仕組み

このプロジェクトは、Docker Composeベースのインストーラーと対話型ウィザードを提供します。ウィザードが技術的な重労働を処理します。セキュリティシークレットの生成、Let's Encryptによる自動HTTPSのためのCaddyリバースプロキシの設定、特定のサービスの選択的なインストールが可能です。CPU、NVIDIA、AMD GPUなど、ローカルモデル実行のためのさまざまなハードウェアプロファイルをサポートしています。

対象ユーザー

ChatGPT、Zapier、Makeなどのプラットフォームのセルフホスト代替手段を求めているユーザーや、データプライバシーが最優先されるプライベートな「AIホームラボ」を構築しているユーザー向けに設計されています。

ハイライト

• ワンコマンドデプロイ: シークレットと設定を処理する対話型インストールウィザード。
• 包括的なツールセット: ローカルLLMランナー (Ollama)、チャットインターフェース (Open WebUI)、エージェントビルダー (Dify, Letta, Keelflow)、RAGエンジン (RAGFlow, LightRAG) を含みます。
• ワークフロー自動化: 400以上の統合機能を備えたn8nセットアップと、オプションのコミュニティワークフローインポート。
• 自動化されたインフラ: HTTPS用のCaddyリバースプロキシと、Grafana/Prometheus監視スタックを内蔵。
• ハードウェアの柔軟性: ローカル推論のためのマルチGPUセットアップをサポート。