vercel-labs/knowledge-agent-template

해결하는 문제

이 프로젝트는 복잡한 임베딩 파이프라인이나 벡터 데이터베이스 없이 사용자 지정 지식 기반에 접근하고 검색할 수 있는 AI 에이전트 템플릿을 제공합니다. 전통적인 RAG(Retrieval-Augmented Generation)과 관련된 인프라스트럭처 부담을 제거하고, 직접 파일 시스템 검색을 사용합니다.

작동 방식

시스템은 GitHub 리포지토리, YouTube 자막 등 다양한 소스의 콘텐츠를 스냅샷 리포지토리로 동기화합니다. 사용자가 질문을 하면, 에이전트는 격리된 Vercel Sandbox 내에서 작동합니다. 벡터 검색 대신 grep, find, cat과 같은 표준 bash 도구를 사용하여 파일을 직접 검색하고 읽습니다. 또한 단순한 질문은 저렴한 모델로, 복잡한 질문은 더 강력한 LLM으로 자동 라우팅하는 복잡도 라우팅 기능을 통해 비용을 최적화합니다.

대상 사용자

Web, GitHub, Discord 등 여러 플랫폼에 지식 기반 AI 에이전트를 빠르게 배포하고 싶은 개발자. 벡터 기반 접근 대신 결정론적이고 설명 가능한 검색 방법을 원하는 사용자에게 적합합니다.

주요 특징

• 벡터 없이 RAG: grep, find, cat과 같은 파일 기반 검색을 통해 임베딩 없이 결정론적이고 즉각적인 결과를 제공합니다.
• 다중 플랫폼 배포: 하나의 에이전트를 웹 채팅 앱, GitHub 봇, Discord 봇으로 동시에 배포할 수 있습니다.
• AI 기반 관리자: 사용량, 오류, 성능에 대한 운영 질문을 자연어로 답변할 수 있는 전용 에이전트를 포함한 관리 패널.
• Shannon Sandbox Pool: 공유된 읽기 전용 사전에서 빠른 시작 시간(100ms 미만)과 자원 효율성을 보장합니다.
• 복잡도 라우팅: 질문의 난이도에 따라 다른 LLM 모델로 자동 라우팅하여 비용을 절감합니다.