Mintplex-Labs/anything-llm

해결하는 문제

AnythingLLM은 사용자가 개인용으로 완벽한 기능을 갖춘 ChatGPT와 유사한 경험을 만들 수 있도록 설계된 올인원 AI 애플리케이션입니다. 벡터 데이터베이스, 문서 파이프라인, 에이전트 기능을 기본으로 제공하여 복잡한 AI 스택을 설정하는 번거로움을 없애고, 사용자가 자신의 문서와 비공개로 안전하게 대화할 수 있도록 합니다.

작동 방식

이 시스템은 monorepo로 운영되며, 콘텐츠 관리를 위한 React 프론트엔드, LLM 및 벡터 데이터베이스 상호작용을 위한 NodeJS Express 서버, 파일 파싱을 위한 전용 문서 수집기로 구성됩니다. 다양한 로컬 또는 클라우드 기반 LLM 공급자, 임베딩 모델, 벡터 데이터베이스에 연결할 수 있으며, 문서를 수집하고 인덱싱하여 검색 증강 생성 (RAG)을 수행할 수 있는 고도로 구성 가능한 환경을 제공합니다.

대상 사용자

복잡한 기술 구성이나 수동 인프라 설정 없이 다중 사용자 지원, 사용자 지정 AI 에이전트, 문서 기반 채팅을 처리할 수 있는 개인용 AI 인스턴스를 원하는 개인 및 조직을 위해 설계되었습니다.

주요 특징

• 동적 모델 라우팅: 사용자 정의 규칙에 따라 채팅을 최적의 공급자 및 모델로 자동 라우팅합니다.
• 노코드 AI 에이전트 빌더: 사용자 지정 에이전트를 생성하여 복잡한 워크플로우를 자동화하고 웹을 탐색합니다.
• 광범위한 호환성: 다양한 LLM (OpenAI, Anthropic, Ollama 등), 임베딩 모델, 벡터 데이터베이스 (LanceDB, Pinecone, Chroma 등)를 지원합니다.
• 다중 사용자 지원: 다중 사용자 인스턴스를 위한 권한 및 액세스 제어를 포함합니다 (Docker 버전).
• 엔터프라이즈 준비 완료: 웹사이트용 사용자 지정 임베드 가능 채팅 위젯과 통합을 위한 전체 개발자 API를 제공합니다.