self-hosted-ai-starter-kit: 一個用於快速初始化自託管本地 AI 和低代碼開發環境的 Docker Compose 模板

它解決了什麼

此項目提供了一個預先配置好的環境，讓使用者能夠快速部署並在本地運行 AI 工作流程。它通過提供單一的 Docker Compose 模板，消除了安裝並連接多個 AI 工具（如 LLMs、向量存儲和自動化平台）的複雜設置過程。

它是如何運作的

它使用 Docker Compose 來協調一套相容的 AI 元件。該套件包括：

• n8n：一個低代碼平台，用於設計和自動化 AI 工作流程，擁有超過 400 個集成。
• Ollama：一個用於運行本地 LLMs（如 Llama 3.2）的平台。
• Qdrant：一個高效能的向量存儲，用於管理和檢索 AI 數據。
• PostgreSQL：一個用於安全處理大量數據的資料庫。

根據硬體（Nvidia GPU、AMD GPU 或 CPU），使用者可以使用特定的 Docker 配置文件啟動整個堆疊。

適合誰使用

適合希望在不依賴雲端 AI 服務的情況下，構建和測試 AI 代理、私人文件分析工具或更智能的機器人的開發者和 AI 愛好者，以確保資料隱私和最低成本。

特色

• 一鍵部署：使用 Docker Compose 配置文件來適用於不同的硬體配置（Nvidia、AMD 和 CPU）。
• 本地優先方法：透過 Ollama 結合本地 LLMs 和透過 Qdrant 的向量存儲，以保持資料私密。
• 低代碼自動化：利用 n8n 的 AI 節點（如 AI Agent、Text Classifier 和 Information Extractor）來構建複雜的工作流程。
• 本地檔案存取：包含一個共享資料夾掛載，使 n8n 能夠與本地檔案系統互動。