vercel-labs/knowledge-agent-template

해결하는 문제

이 프로젝트는 전통적인 RAG 파이프라인(임베딩 모델 또는 벡터 데이터베이스 등)을 필요로 하지 않고 사용자 지정 지식 기반에 액세스하고 검색할 수 있는 AI 에이전트 템플릿을 제공합니다. 단일 코드베이스에서 웹, GitHub, Discord 등 다양한 플랫폼에 지식 기반 에이전트를 간편하게 배포할 수 있습니다.

작동 방식

임베딩을 사용하지 않고, 시스템은 GitHub 리포지토리나 YouTube 자막과 같은 다양한 소스에서 콘텐츠를 스냅샷 리포지토리로 동기화합니다. 에이전트가 정보가 필요할 때는 Vercel Sandbox에서 grep, find, cat과 같은 표준 파일 시스템 명령어를 실행하여 관련 데이터를 검색하고 읽습니다. 이 과정은 콘텐츠 동기화, 사전 관리, AI 모델 라우팅을 통합적으로 처리하는 Nuxt 애플리케이션으로 관리됩니다.

대상 사용자

복잡한 벡터 인프라를 관리하지 않고도 지식 기반 AI 에이전트를 빠르게 배포하고 싶은 개발자, 그리고 여러 채팅 플랫폼에서 동시에 사용 가능한 에이전트가 필요한 사용자.

주요 특징

• 파일 기반 검색: 벡터 검색 대신 격리된 사전에서 결정론적인 bash 명령어를 사용.
• 다중 플랫폼 배포: 웹 채팅, GitHub Issues, Discord 봇용 내장 어댑터 제공.
• 스마트한 복잡도 라우터: 질문의 난이도에 따라 자동으로 다른 LLM으로 쿼리를 라우팅하여 비용 최적화.
• AI 기반 관리 패널: 사용 통계, 오류 로그, 소스 설정 관리를 위한 자연어 인터페이스 포함.
• 공유 사전 풀: 사용자 및 대화 간에 기존 사전을 재사용하여 시작 지연 시간을 줄입니다.