modelbus/one-api-pro

OneAPI Pro – 엔터프라이즈급 AI API 게이트웨이 (Go + Vue 3)

개요 – 많은 대규모 언어 모델 제공업체(OpenAI, Anthropic, Gemini, DeepSeek 등) 앞에 위치하는 자체 호스팅 게이트웨이로, 단일 OpenAI 호환 HTTP API를 노출합니다. 완전한 기능의 관리 콘솔, 토큰 기반 액세스 제어, 구독/요금제 청구, 사용량 대시보드, 선택적 분산형 멀티노드 클러스터링을 추가합니다.

주요 구성 요소

• 백엔드 – Go로 작성되었으며 Gin 웹 프레임워크 기반입니다. 관계형 DB 액세스(SQLite, MySQL 또는 PostgreSQL)에는 GORM을 사용하고 캐싱에는 선택적으로 Redis를 사용합니다. 플러그인 레지스트리를 통해 AWS Bedrock, Google Gemini 및 수십 개의 다른 LLM 제공업체와 통합됩니다.
• 프론트엔드 – Arco Design으로 구축된 Vue 3 + Vite UI. 시각적 대시보드(모델 사용량 차트, 토큰 제한, 요금제 관리, 클러스터 노드 상태 등)를 제공합니다.
• 배포 – 단일 정적 바이너리(Linux/macOS/Windows) 또는 Docker 이미지(ghcr.io/modelbus/one-api-pro)로 배포됩니다. 수동, Docker, docker-compose, 다중 머신, 완전히 분산된 멀티액티브 클러스터 설정을 지원합니다.

중요성

• 통합 액세스 – 팀은 일관된 /v1/... 엔드포인트를 통해 다양한 LLM 서비스를 호출할 수 있어 클라이언트 코드를 단순화합니다.
• 엔터프라이즈 제어 – 세분화된 토큰 정책(모델 화이트리스트, IP 서브넷 제한, 할당량 상한, 만료), 역할 기반 권한(게스트, 사용자, 관리자, 루트), 감사 로그.
• 수익화 – 내장 구독 요금제, 토큰별 또는 요청별 가격 책정, 자동 비용 회계, 실시간 잔액 충전을 위한 WeChat Pay 및 Alipay 통합.
• 확장성 – 제공업체 간 로드 밸런싱, 자동 장애 조치, 각 노드가 자체 MySQL/Redis를 실행하고 애플리케이션 수준 이벤트를 통해 변경 사항을 동기화하는 "분산 멀티액티브 클러스터" 모드—공유 데이터베이스 불필요.

시작하기

1. 사전 컴파일된 바이너리를 다운로드합니다(또는 ./release.sh를 실행하여 모든 플랫폼용으로 빌드).
2. Vue 관리 UI를 빌드합니다(cd web && sh build.sh).
3. ./one-api-pro --port 3000 --log-dir ./logs를 실행합니다.
4. 기본 root / 123456 계정으로 로그인하고 웹 UI를 통해 제공업체, 토큰 및 요금제를 구성합니다.

구성 – 모든 설정은 환경 변수 또는 .env 파일을 통해 제공됩니다(예: 데이터베이스용 SQL_DSN, 캐싱용 REDIS_CONN_STRING, UI 테마 선택용 THEME, 분산 클러스터 모드를 활성화하는 일련의 CLUSTER_* 변수).

문서 – 전체 API 참조(OpenAI 호환 엔드포인트, 관리 CRUD, 클러스터 동기화 API)는 docs/API.md에 있습니다. 프로젝트에는 다국어 README(영어, 중국어, 일본어, 러시아어, 한국어, 아랍어, 독일어 등)도 포함되어 있습니다.

---

OneAPI Pro는 엔터프라이즈급 AI API 게이트웨이 및 관리 플랫폼을 제공하는 진정한 적극적으로 유지 관리되는 오픈소스 프로젝트입니다.