romgX/openrelay

解决的问题

OpenRelay 解决了 AI 订阅孤岛问题，即特定 AI 限额（如 Claude Pro 或 Cursor）被锁定在其专属应用中。它允许用户将来自不同提供商的多个 AI 模型限额进行聚合，并在任何支持标准 API 的 AI 工具或 IDE 中使用这些限额。

工作原理

OpenRelay 作为一个本地代理和聚合器运行。它会自动发现本地 AI 会话（例如来自 Claude Desktop、VS Code Copilot、Windsurf），并连接到直接 API 提供商（例如 Groq、DeepSeek、Gemini）。然后，它提供一个单一的本地端点（通常是 http://localhost:18765），供 Claude Code、Aider 或 Continue 等工具使用，以访问这些聚合的限额。

对于 IDE，它使用 RPC 代理（ConnectRPC、HTTP/2）或桥接器（如 Ollama BYOK 桥接器）将外部限额注入到 Cursor、Windsurf 和 VS Code Copilot 等工具中。

适用人群

在不同平台拥有多个 AI 订阅或免费额度的开发者和 AI 高级用户，希望以统一方式管理并路由请求，以使用成本最低或性能最高的模型。

主要亮点

• 统一仪表板：通过单一 Web 界面管理 58+ 个非虚拟化提供商。
• 跨工具兼容性：通过更改基础 URL，即可在任何工具（如 Aider 或 Claude Code）中使用任何限额（如 Claude Pro）。
• IDE 集成：无缝将外部限额注入 Cursor、Windsurf 和 VS Code Copilot。
• 自动故障转移：将多个提供商组合成虚拟模型组，支持轮询和自动故障转移，确保可用性。
• 本地优先安全：凭据和令牌保留在用户本地机器上；请求直接发送到提供商，不经过 OpenRelay 服务器。