BlockRunAI/ClawRouter

해결하는 문제

ClawRouter는 자율형 AI 에이전트가 유료 LLM API에 접근하는 데 겪는 어려움을 해결합니다. 에이전트는 계정을 생성하거나 신용카드를 제공할 수 없기 때문입니다. ClawRouter는 에이전트가 지갑 서명을 통한 LLM 사용료 결제 및 USDC 마이크로 결제를 가능하게 함으로써 에이전트가 독립적으로 운영될 수 있는 방법을 제공하며, 동시에 인간 사용자를 위한 전통적인 신용카드 결제 경로도 제공합니다.

작동 방식

ClawRouter는 사용자의 머신에서 실행되는 로컬 프록시 역할을 합니다. 15차원 스코어링 시스템을 사용하여 요청을 1ms 미만으로 로컬에서 분석하고, OpenAI, Anthropic, Google과 같은 제공업체의 76개 사용 가능한 모델 중 가장 저렴하고 적합한 모델로 라우팅합니다.

인증은 신용카드로 충전된 API 키 또는 Solana 또는 Base 상의 USDC 마이크로 결제를 위한 x402 프로토콜을 사용하는 비수탁형(non-custodial) 지갑 서명을 통해 처리됩니다. 라우팅 로직은 @blockrun/router-core에 의해 구동되며, 이는 작업에 가장 적합한 모델을 찾기 위해 하드 필터(도구 사용, 비전, 컨텍스트 윈도우 등)를 적용합니다.

대상 사용자

• 자율형 AI 에이전트: 자체 API 비용을 독립적으로 결제할 수 있는 방법이 필요한 경우.
• 개발자: 스마트 라우팅을 통해 LLM 비용을 절감하고자 하는 OpenAI 호환 클라이언트(Cursor, continue.dev 또는 VS Code 등)를 사용하는 경우.
• 사용자: 단일 엔드포인트와 7개의 오픈 웨이트 모델로 구성된 무료 티어를 통해 다양한 모델에 접근하고자 하는 경우.

주요 특징

• 에이전트 네이티브 결제: x402를 통한 USDC 마이크로 결제를 지원하여 에이전트에게 계정이나 신용카드가 필요하지 않도록 합니다.
• 스마트 로컬 라우팅: 요청을 가장 저렴하고 적합한 모델로 로컬에서 최소한의 지연 시간으로 라우팅하여 비용을 최대 84%까지 절감합니다. -광범위한 모델 지원: 단일 엔드포인트 뒤에 9개 제공업체의 76개 채팅 모델에 접근할 수 있습니다.
• 오픈 소스: MIT 라이선스이며 프록시로서 로컬에서 실행됩니다.
• 유연한 결제: 신용카드, USDC 또는 특정 모델에 대한 무료 티어를 지원합니다.