n8n-io/self-hosted-ai-starter-kit
The Self-hosted AI Starter Kit is an open-source template that quickly sets up a local AI environment. Curated by n8n, it provides essential tools for creating secure, self-hosted AI workflows.
解决的问题
本项目为用户提供了一个预配置环境,以便快速在本地部署和运行 AI 工作流。通过提供单一的 Docker Compose 模板,消除了安装和连接多个 AI 工具(如 LLM、向量数据库和自动化平台)的复杂设置过程。
工作原理
它使用 Docker Compose 来编排一系列兼容的 AI 组件。该工具包包括:
- n8n: 一个低代码平台,可通过 400 多个集成功能来设计和自动化 AI 工作流。
- Ollama: 用于运行本地 LLM(如 Llama 3.2)的平台。
- Qdrant: 用于管理和检索 AI 数据的高性能向量数据库。
- PostgreSQL: 用于安全处理大量数据的数据库。
根据硬件(Nvidia GPU、AMD GPU 或 CPU),用户可以使用特定的 Docker profile 启动整个技术栈。
适用人群
希望构建和测试 AI Agent、私有文档分析工具或更智能的机器人,且不想依赖云端 AI 服务,从而确保数据隐私并最大限度降低成本的开发者和 AI 爱好者。
亮点
- 一键部署:针对不同的硬件配置(Nvidia、AMD 和 CPU)使用 Docker Compose profiles。
- 本地优先方案:结合了通过 Ollama 实现的本地 LLM 和通过 Qdrant 实现的向量数据库,以保持数据私密。
- 低代码自动化:利用 n8n 的 AI 节点(如 AI Agent、Text Classifier 和 Information Extractor)来构建复杂的工作流。
- 本地文件访问:包含一个用于 n8n 与本地文件系统交互的共享文件夹挂载。