CloudWaddie/LMArenaBridge

해결하는 문제

LMArenaBridge는 LM Arena에 호스팅된 모델에 표준화된 API를 통해 접근할 수 있는 방법을 제공합니다. 이 프로젝트는 OpenAI 호환 API 엔드포인트를 생성함으로써 이러한 모델을 프로그래밍 방식으로 접근하는 문제를 해결하며, 사용자가 LM Arena 모델을 자체 애플리케이션이나 OpenWebUI와 같은 인터페이스에 통합할 수 있도록 합니다.

작동 방식

이 프로젝트는 OpenAI 호환 API에서 오는 요청을 LM Arena 웹사이트로 전달하는 브리지 역할을 합니다. 인증을 위해 사용자의 브라우저 쿠키에서 추출한 인증 토큰(arena-auth-prod-v1)이 필요합니다. 보안 조치를 우회하기 위해 사용자 스크립트 프록시를 사용하거나, YOLO 시각 모델을 활용해 이미지 도전 과제를 자동으로 해결하는 옵션으로 AI 기반 reCAPTCHA v2 솔버를 사용할 수 있습니다.

대상 사용자

웹 인터페이스를 수동으로 사용하지 않고도 자사의 LLM 프론트엔드나 소프트웨어 도구 내에서 LM Arena의 모델 컬렉션을 사용하고자 하는 개발자 및 AI 애호가를 위한 것입니다.

주요 기능

• OpenAI 호환: 기존 LLM 도구와의 통합을 용이하게 하는 표준 API 엔드포인트 제공.
• 시각 지원: LMArena의 R2 스토리지에 자동 업로드하여 시각 기능이 있는 모델에 이미지를 전송 가능.
• 자동 CAPTCHA 해결: YOLO 기반 시각 솔버를 옵션으로 제공하여 reCAPTCHA v2 이미지 도전 과제를 자동 처리.
• 관리자 대시보드: 인증 토큰과 API 키를 관리할 수 있는 내장 포털 제공.
• OpenWebUI 통합: OpenWebUI 인터페이스의 백엔드로 사용하기 위해 특별히 문서화되어 있음.