silasxbt/anti-api

Anti‑API – 用於 LLM 提供商的本地相容性與路由代理

是什麼 – Anti‑API 是一個自托管服務，位於您的程式碼（或任何 OpenAI/Anthropic 相容客戶端）與多個大型語言模型提供商之間。它將標準的 OpenAI/Anthropic 請求格式轉換為六個支援後端的原生 API（OpenAI 風格的 Antigravity、OpenAI Codex、GitHub Copilot、Zed 托管模型、Amazon Kiro 與 xAI Grok），並根據可設定的策略路由每個請求。

為何重要 – 許多開發者在其應用程式中使用 OpenAI API 格式，但他們可能擁有數個付費帳戶或替代提供商。Anti‑API 讓您能夠：

• 將這些帳戶整合至單一端點（http://localhost:8964）後方。
• 平衡負載、遵守配額限制，並在提供方回傳 429/404 錯誤時自動切換至另一帳戶。
• 暴露一個公開、令牌保護的推理閘道（埠 8966），供遠端客戶端使用，而不會洩漏憑證或管理 UI。
• 在所有提供方之間使用相同的客戶端程式碼處理純文字、多模態（影像）與工具呼叫請求。

主要功能（如 README 所述）

• 六個提供方 – Antigravity、ChatGPT Codex、GitHub Copilot、Zed 托管模型、Amazon Kiro、xAI Grok。
• 雙重 API 相容性 – 接受 OpenAI 風格與 Anthropic 風格的請求主體。
• 智慧路由 – 兩種路由模式：
  • 流程路由 – 自訂模型識別碼對應至使用者定義的「流程」。
  • 帳戶路由 – 提供方原生模型 ID 會指派至特定帳戶，於配額或錯誤狀態下啟用黏性輪詢。
• 多模態安全性 – 在轉送至目標提供方前，驗證並轉換影像 URL 或 base-64 影像區塊。
• OAuth 與 PKCE 處理 – 內建 Copilot 的裝置碼流程，以及 Antigravity/Codex 的安全 PKCE 流程，支援迴路回呼與可選的非安全 TLS 覆蓋，適用於受限網路。
• 儀表板 – 本地 Web UI（僅限迴路）顯示配額使用狀況、路由設定與帳戶診斷資訊。
• 遠端隧道 – 一鍵式 ngrok/cloudflared/localtunnel 設定，用於公開僅推理監聽器。
• Docker 與套件管理器支援 – 提供預先建置的多架構 Docker 影像、Homebrew、WinGet 與可攜式 Windows 套件。
• 安全邊界 – 管理 API 與儀表板綁定至 127.0.0.1；公開推理監聽器需要一個秘密令牌（ANTI_API_PUBLIC_TOKEN）。憑證檔案本地儲存在 ~/.anti-api，從不記錄日誌。

快速開始（摘要）

• Linux/macOS – bun install && bun run src/main.ts start（預設埠 8964）。
• Windows – 雙擊 start.bat（或執行安裝的 anti-api 命令）。
• Docker – 拉取 ghcr.io/silasxbt/anti-api:latest 並使用控制平面令牌執行，例如：

export ANTI_API_CONTROL_TOKEN=$(openssl rand -hex 32)

docker run -d \
  -p 127.0.0.1:8964:8964 \
  -e ANTI_API_CONTAINER_CONTROL_PLANE=1 \
  -e ANTI_API_CONTROL_TOKEN=$ANTI_API_CONTROL_TOKEN \
  -v anti-api-data:/app/data \
  ghcr.io/silasxbt/anti-api:latest

• 開啟 http://localhost:8964/quota?control_token=<your-token> 以啟動所需提供方的 OAuth 登入，然後將您的客戶端指向 http://localhost:8964。

架構快照

Anti‑API（埠 8964） ──► 儀表板 / 設定 / 路由 UI（僅限迴路）
                     │
                     ├─► 智慧路由引擎
                     │    • 流程路由（自訂 ID）
                     │    • 帳戶路由（提供方原生 ID）
                     │    • 冷卻感知故障轉移與黏性輪詢
                     │
                     └─► 提供方適配器
                          ├─ Antigravity（OpenAI 風格）
                          ├─ Codex
                          ├─ GitHub Copilot（裝置碼流程）
                          ├─ Zed 托管模型
                          ├─ Amazon Kiro
                          └─ xAI Grok

上游呼叫會發送到各自的雲端 API（Google、OpenAI、GitHub、Zed 等）。端口 8966 上的獨立公開監聽器在設定 ANTI_API_PUBLIC_TOKEN 時提供僅推理請求服務。

誰可能使用它

• 擁有多個付費 LLM 帳戶並希望擁有單一一致端點的團隊。
• 建構開源工具的開發者，期望 OpenAI/Anthropic API 格式但希望在本地使用替代後端。
• 需要公開 LLM 網關但不希望暴露憑證檔案的自托管服務。

限制 / 警告

• 此專案為 非官方；某些提供方可能變更其私人端點，導致中斷。
• 遠端推理受令牌保護；在沒有強令牌的情況下暴露公開監聽器是不安全的。
• 某些提供方（如 Antigravity）需要定期更新客戶端版本；停用此檢查可能導致不相容。
• 多模態轉換僅限於每個下游提供方支援的影像格式。

---

• 上述所有資訊均直接來自倉儲的 README；未推斷任何額外功能。*