kossakovsky/selfhost-ai

해결하는 문제

프라이빗 AI 인프라를 구축하는 데 필요한 복잡한 수동 설정을 제거합니다. LLM, 에이전트, 자동화를 위해 수십 개의 개별 도구를 구성하는 대신, 사용자는 단일 명령어로 30개 이상의 오픈 소스 AI 도구가 통합된 전체 스택을 자신의 서버에 배포할 수 있습니다.

작동 방식

이 프로젝트는 Docker Compose 기반 설치 프로그램과 대화형 마법사를 제공합니다. 마법사가 기술적인 복잡한 작업을 처리합니다. 보안 시크릿 생성, Let's Encrypt를 통한 자동 HTTPS를 위한 Caddy 리버스 프록시 구성, 특정 서비스의 선택적 설치를 지원합니다. 로컬 모델 실행을 위한 CPU, NVIDIA 및 AMD GPU를 포함한 다양한 하드웨어 프로필을 지원합니다.

대상 사용자

ChatGPT, Zapier, Make와 같은 플랫폼의 셀프 호스팅 대안을 찾는 사용자나 데이터 프라이버시가 가장 중요한 프라이빗 AI "홈랩"을 구축하는 사용자를 위해 설계되었습니다.

주요 특징

• 원커맨드 배포: 시크릿과 구성을 처리하는 대화형 설치 마법사.
• 포괄적인 도구 세트: 로컬 LLM 러너 (Ollama), 채팅 인터페이스 (Open WebUI), 에이전트 빌더 (Dify, Letta, Keelflow) 및 RAG 엔진 (RAGFlow, LightRAG) 포함.
• 워크플로우 자동화: 400개 이상의 통합 기능을 갖춘 n8n 설정 및 선택적 커뮤니티 워크플로우 가져오기.
• 자동화된 인프라: HTTPS를 위한 내장 Caddy 리버스 프록시 및 Grafana/Prometheus 모니터링 스택.
• 하드웨어 유연성: 로컬 추론을 위한 멀티 GPU 설정 지원.