ratel-ai/ratel

Context engineering for AI agents. ~80% fewer tokens. Fix tool overload. Skills and memory with in-process BM25 and semantic retrieval. Progressive Disclosure. No vector DB.

해결하는 문제

Ratel은 AI 에이전트에서 "도구 과잉" 문제를 해결합니다. 시스템 프롬프트에 너무 많은 도구 스키마와 지침을 포함하면 토큰 비용이 증가하고 모델의 정확도가 저하됩니다. Ratel은 관련 없는 옵션으로 인한 모델의 혼란을 방지하고, 모든 사용 가능한 기능을 미리 전송할 필요 없이 API 호출의 비용을 줄입니다.

작동 방식

Ratel은 "진행적 공개"를 구현하는 컨텍스트 엔지니어링 레이어입니다. 모든 도구와 기술을 프롬프트에 로드하는 대신, 이를 카탈로그에 인덱싱합니다. 에이전트는 현재 턴에 필요한 관련 도구와 기술만 찾기 위해 search_capabilities 도구를 사용합니다.

검색: 기본적으로 메타데이터, 이름, 설명 기반의 빠르고 결정론적인 검색에 BM25(키워드 검색)를 사용합니다. 임베딩 엔드포인트를 통해 세마틱 및 하이브리드 랭킹을 옵트인 기능으로 제공합니다.
기술: 복잡한 지침(플레이북)은 에이전트가 get_skill_content 도구를 명시적으로 사용해 로드하기 전까지 컨텍스트에서 제외됩니다.
사실: 일정하게 기반을 제공하는 정보(예: 브랜드 목소리 또는 주소)는 사실로 등록되며, 트랜스크립트에 이미 존재하지 않을 때만 다시 삽입됩니다.

대상 사용자

많은 도구와 기술 라이브러리를 필요로 하지만, 로컬, 오픈소스, 또는 최전방 모델에서도 높은 정확도와 낮은 토큰 소비를 유지해야 하는 AI 에이전트 개발자.

주요 특징

인프라 필요 없음: 별도의 벡터 데이터베이스가 필요하지 않습니다.
다국어 지원: TypeScript 및 Python용 SDK를 제공하며, 핵심 엔진은 Rust로 작성되었습니다.
결정론적 검색: 신뢰할 수 있는 도구 탐색을 위해 기본적으로 BM25를 사용합니다.
프레임워크 호환성: Vercel AI SDK 및 Mastra용 어댑터를 포함합니다.