BingZi-233/check-cx
实时跟踪 OpenAI、Gemini、Anthropic 等 AI 模型 API 的可用性、延迟与错误信息
解決的問題
Check CX 解決了使用 AI 模型 API 時缺乏透明度與可靠性,特別是在透過第三方中繼提供者路由時的問題。它防止代理返回預設回應以偽裝線上狀態的「假」健康檢查,並提供可量化的延遲與可用性證據,以區分提供者故障與中繼故障。
工作原理
系統持續使用真實的串流模型呼叫探測 AI API(如 OpenAI、Gemini 和 Anthropic)。為確保 API 確實正常運作,系統會產生隨機語言挑戰(涵蓋五個難度等級),模型必須正確解決才能被標記為「運行中」。它測量真實的首次令牌到達時間與 ping 延遲,追蹤 7 天、15 天和 30 天的可用性統計資料,並可與官方提供者狀態頁面同步,將內部探測結果與全球性故障進行關聯。
適用對象
依賴多個 AI 模型 API 或第三方中繼的開發者與組織,需要公開或內部狀態板來監控可用性、效能與模型能力。
主要亮點
- 隨機挑戰驗證:使用動態語言任務暴露返回靜態文字的偽造代理。
- 真實請求探測:測量實際串流效能與首次令牌到達時間,而非僅單純的端口連通性。
- 能力評估:採樣高難度挑戰,為模型分配智能評分,不影響其健康狀態。
- 生產就緒基礎設施:具備多節點領導者選舉機制,防止重複輪詢,支援自動重試,並提供唯讀狀態 API 供外部整合。
- 官方狀態同步:自動輪詢 OpenAI 和 Anthropic 狀態頁面以進行外部驗證。
相關
- 專案
- 專案
- 專案
- 專案
- 專案