n8n-io/self-hosted-ai-starter-kit
The Self-hosted AI Starter Kit is an open-source template that quickly sets up a local AI environment. Curated by n8n, it provides essential tools for creating secure, self-hosted AI workflows.
解決的問題
本專案為使用者提供了一個預先配置的環境,以便快速在本地部署並執行 AI 工作流。透過提供單一的 Docker Compose 範本,消除了安裝與連接多個 AI 工具(如 LLM、向量資料庫與自動化平台)的複雜設定過程。
工作原理
它使用 Docker Compose 來編排一系列相容的 AI 組件。此套件包含:
- n8n: 一個低程式碼平台,可透過 400 多種整合功能來設計與自動化 AI 工作流。
- Ollama: 用於執行本地 LLM(例如 Llama 3.2)的平台。
- Qdrant: 用於管理與檢索 AI 資料的高效能向量資料庫。
- PostgreSQL: 用於安全處理大量資料的資料庫。
根據硬體(Nvidia GPU、AMD GPU 或 CPU),使用者可以使用特定的 Docker profile 來啟動整個技術棧。
適用對象
希望建置與測試 AI Agent、私有文件分析工具或更智慧的機器人,且不想依賴雲端 AI 服務,以確保數據隱私並將成本降至最低的開發者與 AI 愛好者。
亮點
- 一鍵部署:針對不同的硬體配置(Nvidia、AMD 與 CPU)使用 Docker Compose profiles。
- 本地優先方案:結合了透過 Ollama 實現的本地 LLM 與透過 Qdrant 實現的向量資料庫,以保持數據私密。
- 低程式碼自動化:利用 n8n 的 AI 節點(如 AI Agent、Text Classifier 與 Information Extractor)來建置複雜的工作流。
- 本地檔案存取:包含一個用於 n8n 與本地檔案系統互動的共享資料夾掛載。