romgX/openrelay

解決的問題

OpenRelay 解決了 AI 訂閱孤島問題，即特定 AI 配額（如 Claude Pro 或 Cursor）被鎖定在其專屬應用中。它允許使用者將來自不同供應商的多個 AI 模型配額進行聚合，並在任何支援標準 API 的 AI 工具或 IDE 中使用這些配額。

工作原理

OpenRelay 作為一個本地代理與聚合器運作。它會自動發現本地 AI 會話（例如來自 Claude Desktop、VS Code Copilot、Windsurf），並連接到直接 API 供應商（例如 Groq、DeepSeek、Gemini）。然後，它提供一個單一的本地端點（通常是 http://localhost:18765），供 Claude Code、Aider 或 Continue 等工具使用，以存取這些聚合的配額。

對於 IDE，它使用 RPC 代理（ConnectRPC、HTTP/2）或橋接器（如 Ollama BYOK 橋接器）將外部配額注入到 Cursor、Windsurf 和 VS Code Copilot 等工具中。

適用對象

在不同平台擁有多个 AI 訂閱或免費額度的開發者與 AI 高階使用者，希望以統一方式管理並路由請求，以使用成本最低或效能最高的模型。

主要亮點

• 統一儀表板：透過單一 Web 界面管理 58+ 個非虛擬化供應商。
• 跨工具相容性：透過變更基礎 URL，即可在任何工具（如 Aider 或 Claude Code）中使用任何配額（如 Claude Pro）。
• IDE 集成：無縫將外部配額注入 Cursor、Windsurf 和 VS Code Copilot。
• 自動故障轉移：將多個供應商組合成虛擬模型群組，支援輪詢與自動故障轉移，確保可用性。
• 本地優先安全：憑證與金鑰保留在使用者的機器上；請求直接發送到供應商，不經過 OpenRelay 伺服器。