modelbus/one-api-pro

one-api-pro is an enterprise-grade AI API Gateway built on one-api(oneapi). It has undergone a full architectural redesign, adding support for subscription plans, active-active clusters, precise billing. one-api-pro是基于one-api(oneapi)的企业级AI API Gateway网关,进行了架构级别的重构,全新支持套餐订阅、多活集群、精确计费、渠道成本管控等功能,适合企业级多员工、多模型统一管理与私有化部署

OneAPI Pro – 企业级AI API网关(Go + Vue 3)

简介 – 一个自托管网关,位于许多大语言模型提供商(OpenAI、Anthropic、Gemini、DeepSeek等)之前,并暴露单一的OpenAI兼容HTTP API。它增加了功能齐全的管理控制台、基于令牌的访问控制、订阅/计划计费、使用仪表板以及可选的去中心化多节点集群。

主要组件

  • 后端 – 使用Go编写,基于Gin Web框架。使用GORM进行关系型数据库访问(SQLite、MySQL或PostgreSQL),并可选择使用Redis进行缓存。通过插件注册表与AWS Bedrock、Google Gemini以及数十个其他LLM提供商集成。
  • 前端 – 使用Arco Design构建的Vue 3 + Vite UI。提供可视化仪表板(模型使用图表、令牌限制、计划管理、集群节点状态等)。
  • 部署 – 作为单个静态二进制文件(Linux/macOS/Windows)或Docker镜像(ghcr.io/modelbus/one-api-pro)分发。支持手动、Docker、docker-compose、多机器以及完全去中心化的多活集群设置。

重要性

  • 统一访问 – 团队可以通过一致的/v1/...端点调用许多不同的LLM服务,简化客户端代码。
  • 企业控制 – 细粒度的令牌策略(模型白名单、IP子网限制、配额上限、过期时间)、基于角色的权限(访客、用户、管理员、根用户)和审计日志。
  • 货币化 – 内置订阅计划、按令牌或按请求定价、自动成本核算,以及与微信支付和支付宝的集成,实现实时余额充值。
  • 可扩展性 – 跨提供商负载均衡、自动故障转移,以及“去中心化多活集群”模式,其中每个节点运行自己的MySQL/Redis,并通过应用程序级事件同步更改——无需共享数据库。

入门指南

  1. 下载预编译的二进制文件(或运行./release.sh为所有平台构建)。
  2. 构建Vue管理UI(cd web && sh build.sh)。
  3. 运行./one-api-pro --port 3000 --log-dir ./logs
  4. 使用默认的root / 123456账户登录,并通过Web UI配置提供商、令牌和计划。

配置 – 所有设置通过环境变量或.env文件提供(例如,数据库的SQL_DSN、缓存的REDIS_CONN_STRING、选择UI主题的THEME,以及启用去中心化集群模式的一系列CLUSTER_*变量)。

文档 – 完整的API参考(OpenAI兼容端点、管理CRUD、集群同步API)位于docs/API.md中。该项目还附带多语言README(英语、中文、日语、俄语、韩语、阿拉伯语、德语等)。


OneAPI Pro是一个真正的、积极维护的开源项目,提供企业就绪的AI API网关和管理平台。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目