Rfym21/Qwen2API

해결하는 문제

Qwen-Proxy (Qwen2API) 는 chat.qwen.ai 와 Qwen Code / Qwen Cli 의 웹 인터페이스를 OpenAI 호환 및 Anthropic 호환 API 로 변환하는 브리지 역할을 합니다. 이로 인해 ChatGPT-Next-Web 또는 LobeChat 과 같은 표준 API 형식을 지원하는 제3자 클라이언트에서 Qwen 모델을 사용할 수 있으며, 제공자로부터 네이티브 API 키를 필요로 하지 않습니다.

작동 방식

이 프로젝트는 요청을 가로채고 Qwen 웹 서비스에 필요한 형식으로 변환하는 프록시 서버로 작동합니다. 안정성과 호환성을 보장하기 위해 몇 가지 고급 기능을 포함하고 있습니다:

• API 변환: OpenAI 및 Anthropic Messages API 요청을 Qwen 웹 요청으로 변환합니다.
• 함수 호출: 프롬프트 인젝션과 스트리밍 상태 머신을 통해 OpenAI 스타일의 tools 및 Anthropic 의 tool_use 를 시뮬레이션하여 AI 가 외부 도구와 상호작용할 수 있도록 합니다.
• 계정 관리: 각 계정별 프록시 설정을 통해 다중 계정 회전을 지원하여 가용성을 높이고 IP 기반 차단을 방지합니다.
• 다중 모달 지원: 이미지 인식, 동영상 이해, 이미지/동영상 생성을 처리합니다.
• 컨텍스트 관리: 큰 에이전트 컨텍스트를 자동으로 Qwen 의 파일 인터페이스로 오프로드하여 WAF 제한을 우회합니다.

대상 사용자

• OpenAI/Anthropic API 표준을 기대하는 기존 AI 에이전트나 LLM 애플리케이션에 Qwen 모델을 통합하고자 하는 개발자.
• Qwen 모델을 사용해 전용 AI 클라이언트(예: Claude Code 또는 Cline)를 선호하는 파워 유저.
• Qwen 웹 서비스용 개인 API 게이트웨이를 배포하고자 하는 셀프호스팅 사용자.

주요 특징

• 광범위한 호환성: OpenAI 및 Anthropic Messages API 형식을 모두 지원합니다.
• 고급 도구 기능: 스트리밍 인수와 엄격한 검증을 갖춘 완전한 함수 호출 지원을 구현했습니다.
• 계정 회전: 각 계정에 대해 다른 아웃바운드 프록시를 설정 가능하여 차단을 방지합니다.
• 포괄적인 모달리티: 텍스트, 이미지, 동영상(생성 및 이해)을 모두 지원합니다.
• 관리 인터페이스: 간편한 설정과 모니터링이 가능한 웹 UI 포함.
• 유연한 배포: Docker, PM2, Vercel, 또는 Hugging Face Spaces 로 배포 가능합니다.