BingZi-233/check-cx
实时跟踪 OpenAI、Gemini、Anthropic 等 AI 模型 API 的可用性、延迟与错误信息
何を解決するか
Check CX は、特にサードパーティのリレープロバイダーを経由する場合に、AIモデルAPIの透明性と信頼性の欠如を補います。偽のヘルスチェック(プロキシが事前に用意された応答を返してオンラインであるように見せかける)を防ぎ、遅延と稼働時間の定量的証拠を提供することで、プロバイダーの障害とリレーの障害を明確に区別します。
動作方法
このシステムは、OpenAI、Gemini、AnthropicなどのAI APIを、リアルなストリーミングモデル呼び出しを使って継続的にプローブします。APIが実際に機能していることを保証するため、5段階の難易度を持つランダムな言語課題を生成し、モデルが正しく解くことで「稼働中」とマークされます。真の最初のトークン到達時間とピング遅延を測定し、7日、15日、30日単位の稼働統計を追跡。また、公式プロバイダーのステータスページと同期して、内部プローブ結果と世界的な障害を照合できます。
対象ユーザー
複数のAIモデルAPIやサードパーティのリレーに依存し、可用性、パフォーマンス、モデルの能力を監視するための公開または内部ステータスボードを必要とする開発者や組織。
主な特徴
- ランダムチャレンジ検証: 動的言語タスクを使用して、静的テキストを返す偽のプロキシを暴露。
- リアルリクエストプローブ: 単なるポート接続性ではなく、実際のストリーミングパフォーマンスと最初のトークン到達時間を測定。
- 能力評価: 高難易度の課題をサンプリングし、モデルの知能スコアを付与(健康状態には影響しない)。
- プロダクション対応インフラ: マルチノードリーダー選出で重複ポーリングを防止、自動リトライ機能、外部統合用の読み取り専用ステータスAPIを備える。
- 公式ステータス同期: OpenAIおよびAnthropicのステータスページを自動的にポーリングし、外部での検証を可能に。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト