BillionsBobby/JevRouter

해결하는 문제

JevRouter는 AI 에이전트가 "다음에 이 작업을 처리할 도구나 기능은 무엇인가?"라는 단순하지만 중요한 질문에 추론 토큰을 낭비하는 것을 방지합니다. 고비용의 추론 모델 대신 빠르고 전용된 결정 모델(Jev)을 사용하여 라우팅 결정을 처리하고, 추론 모델은 실행과 백업에 집중합니다.

작동 방식

JevRouter는 에이전트와 여러 기능(모델, 서브에이전트, MCP 도구, CLI, 플러그인) 사이의 통합 레이어로 작동합니다. Jev API를 사용하여 구조화된 상태를 타입화된 결정과 확률 분포로 변환합니다.

주요 메커니즘:

• 라우팅 및 계획: route는 단일 결정을 처리하고, plan은 직렬, 배치, 또는 분해 전략을 사용하여 다단계 작업에 대한 기능 시퀀스를 결정합니다.
• 결정 계약: Jev는 결정 확률을 제공하고, JevRouter는 가용성, 권한, 위험 수준, 확인 요구 사항을 강제합니다.
• 이중 단계 라우팅: 후보 수가 한도를 초과하면 라우터는 먼저 대략적인 Top-K 필터를 수행한 후 최종 선택을 합니다.
• 기능 탐지: 로컬 Skill 디렉터리, MCP 서버 구성, CLI 도움말 명령어, DSH 플러그인 매니페스트에서 도구를 자동으로 탐지할 수 있습니다.

대상 사용자

과도한 LLM 토큰 소비 없이 정확한 도구나 서브에이전트로 요청을 라우팅할 수 있는 빠르고 저비용이며 감사 가능한 방법이 필요한 AI 에이전트 개발자.

주요 특징

• 통합 라우팅 계약: 모델, 서브에이전트, Skills, MCP 도구, CLI, 플러그인에 하나의 인터페이스를 제공합니다.
• 결정 전용 모드: 도구는 암묵적으로 실행되지 않습니다. 고위험 기능은 명시적 확인이 필요합니다.
• 감사 가능한 수령 증거: 출처 해시가 포함된 추가 전용 결정 및 계획 파일로 완전한 감사 가능성을 제공합니다.
• 다단계 계획: 비임의 시퀀스 선택과 다양성 페널티를 지원하여 다단계 도구 시퀀스를 최적화합니다.
• 로컬 대시보드: 데이터를 업로드하지 않고 라우팅 통계와 지연 시간을 모니터링할 수 있는 읽기 전용 로컬 대시보드입니다.
• SDK 및 CLI: Codex와 Claude Code와 같은 에이전트에 쉽게 통합할 수 있는 포괄적인 SDK와 CLI를 제공합니다.