aimod-cc/agent2api

해결하는 문제

Agent2API는 다양한 AI 데스크톱 클라이언트의 로그인 상태를 단일 로컬 OpenAI 호환 API 게이트웨이로 변환합니다. 이를 통해 클라이언트가 사용자 지정 base_url을 지원하는 경우, 공식 API 키나 클라이언트 수정 없이도 여러 AI 제공업체의 기존 계정 할당량을 사용할 수 있습니다.

작동 원리

이 프로젝트는 로컬 리버스 프록시 역할을 합니다. 지원되는 AI 플랫폼의 세션/로그인 상태를 캡처하고 공식 업스트림 게이트웨이로 요청을 전달합니다. 통합된 base_url (http://127.0.0.1:3065/v1)을 제공하며, 다양한 독점 통신 프로토콜을 표준 OpenAI 호환 채팅 완성, 응답 및 메시지 형식으로 변환합니다.

대상 사용자

여러 AI 데스크톱 클라이언트 계정을 보유하고 있으며, 이를 단일 API 엔드포인트로 중앙 집중화하여 자체 도구나 OpenAI 호환 소프트웨어에서 사용하려는 사용자.

주요 특징

• 광범위한 제공업체 지원: WorkBuddy, Trae, Cline, Qoder 등을 포함한 다양한 플랫폼을 지원하며, LLM 요청, 토큰 갱신 및 잔액 조회에 대해 다양한 수준의 지원을 제공합니다.
• 통합 API: 모든 플랫폼에 걸쳐 /v1/chat/completions, /v1/responses 및 /v1/models에 대한 OpenAI 호환 인터페이스를 제공합니다.
• 계정 및 모델 관리: 계정, 우선순위 및 모델 매핑을 관리하기 위한 GUI(Tauri 기반 데스크톱 앱 또는 Docker 기반 웹 패널)가 포함되어 있습니다.
• 고급 라우팅: 글로벌 우선순위 큐, 429(속도 제한) 완화, 탐지를 피하기 위한 아웃바운드 핑거프린트 비식별화 기능을 갖추고 있습니다.
• 운영 도구: 성공률과 토큰 사용량이 포함된 요청 보고서, 일일 체크인 및 자격 증명 유지를 위한 자동화 작업을 제공합니다.
• 배포 유연성: 독립형 Windows 설치 프로그램 또는 헤드리스 배포를 위한 Docker 컨테이너로 제공됩니다.