self-hosted-ai-starter-kit: 用于快速初始化自托管本地 AI 和低代码开发环境的 Docker Compose 模板
self-hosted-ai-starter-kit: 用于快速初始化自托管本地 AI 和低代码开发环境的 Docker Compose 模板
一个 Docker Compose 模板,捆绑了 n8n、Ollama 和 Qdrant,用于快速搭建自托管本地 AI 开发环境,以构建 AI 代理和工作流。
它解决了什么
此项目为用户提供了一个预配置的环境,以便快速本地部署和运行 AI 工作流。通过提供单一的 Docker Compose 模板,它消除了安装和连接多个 AI 工具(如 LLMs、向量存储和自动化平台)的复杂设置过程。
它是如何工作的
它使用 Docker Compose 来编排一套兼容的 AI 组件。该工具包包括:
- n8n: 一个低代码平台,用于设计和自动化 AI 工作流,拥有超过 400 个集成。
- Ollama: 用于运行本地 LLMs(如 Llama 3.2)的平台。
- Qdrant: 高性能向量存储,用于管理和检索 AI 数据。
- PostgreSQL: 用于安全处理大量数据的数据库。
根据硬件(Nvidia GPU、AMD GPU 或 CPU),用户可以使用特定的 Docker 配置文件启动整个堆栈。
适用人群
希望在不依赖云端 AI 服务的情况下构建和测试 AI 代理、私人文档分析工具或更智能的机器人的开发者和 AI 爱好者,以确保数据隐私和最低成本。
亮点
- 一键部署:使用 Docker Compose 配置文件针对不同的硬件配置(Nvidia、AMD 和 CPU)。
- 本地优先方法:通过 Ollama 结合本地 LLMs 和通过 Qdrant 的向量存储来保持数据私有。
- 低代码自动化:利用 n8n 的 AI 节点(如 AI 代理、文本分类器和信息提取器)构建复杂的工作流。
- 本地文件访问:包含一个共享文件夹挂载,使 n8n 能够与本地文件系统交互。