self-hosted-ai-starter-kit: 빠르게 자체 호스팅 로컬 AI 및 저코드 개발 환경을 초기화하는 Docker Compose 템플릿

무엇을 해결하는가

이 프로젝트는 사용자가 로컬에서 AI 워크플로를 빠르게 배포하고 실행할 수 있도록 사전 구성된 환경을 제공합니다. 단일 Docker Compose 템플릿을 제공함으로써 LLMs, 벡터 스토어, 자동화 플랫폼과 같은 여러 AI 도구를 설치하고 연결하는 복잡한 설정 과정을 제거합니다.

어떻게 작동하는가

Docker Compose를 사용하여 호환 가능한 AI 구성 요소들의 스위트를 오케스트레이션합니다. 키트에는 다음이 포함됩니다:

• n8n: 400개 이상의 통합을 통해 AI 워크플로를 설계하고 자동화하는 저코드 플랫폼.
• Ollama: Llama 3.2와 같은 로컬 LLMs를 실행하는 플랫폼.
• Qdrant: AI 데이터를 관리하고 검색하는 고성능 벡터 스토어.
• PostgreSQL: 대용량 데이터를 안전하게 처리하는 데이터베이스.

하드웨어(Nvidia GPU, AMD GPU, 또는 CPU)에 따라 사용자는 특정 Docker 프로파일을 사용하여 전체 스택을 실행할 수 있습니다.

누구를 위한 것인가

온클라우드 AI 서비스에 의존하지 않고 AI 에이전트, 개인 문서 분석 도구, 또는 더 똑똑한 봇을 구축하고 테스트하려는 개발자와 AI 애호가를 위한 것입니다. 이를 통해 데이터 프라이버시를 보장하고 비용을 최소화할 수 있습니다.

주요 특징

• One-click deployment: 다양한 하드웨어 구성(Nvidia, AMD, 및 CPU)에 대한 Docker Compose 프로파일을 사용합니다.
• Local-first approach: Ollama를 통한 로컬 LLMs와 Qdrant를 통한 벡터 스토어를 결합하여 데이터를 비공개로 유지합니다.
• Low-code automation: n8n의 AI 노드(AI Agent, Text Classifier, 및 Information Extractor와 같은)를 활용하여 복잡한 워크플로를 구축합니다.
• Local file access: n8n이 로컬 파일 시스템과 상호작용할 수 있도록 공유 폴더 마운트를 포함합니다.