ThinkWatchProject/ThinkWatch

Enterprise AI bastion host for secure AI API and MCP access, with unified proxying, RBAC, audit logs, rate limiting, and cost tracking across OpenAI, Anthropic, Gemini, and self-hosted LLMs.

何を解決するか

ThinkWatch は、企業向けのセキュアゲートウェイとして、AI API呼び出しとモデルコンテキストプロトコル(MCP)ツールの呼び出しを組織全体で統合的に管理・監査・コスト追跡するためのものである。組織内での分散したAPIキー、トークン使用量やコストの可視性の欠如、モデルやツールに対するアクセス制御の不在、監査ログにおけるコンプライアンスのギャップといった一般的な課題に対処する。

動作方法

ThinkWatch は統合プロキシ(ゲートウェイ)と管理インターフェース(コンソール)として動作する。すべてのAIリクエストとMCPツール呼び出しを中継し、認証、承認、監視の単一制御プレーンを提供する。

  • AIゲートウェイ:Cursor や Claude Code などのさまざまなAI SDKやクライアントの即時置き換えとして機能し、OpenAI、Anthropic、Google Gemini などのプロバイダーにリクエストをルーティングする。フォーマット変換やストリーミング処理も担当する。
  • MCPゲートウェイ:通常のプロキシとは異なり、ユーザーごとのOAuthトークンまたはPATを使用して、実際のエンドユーザーのアイデンティティを上流サーバーに伝達する。これにより、上流側の監査ログに実際のユーザーが反映され、共有サービスアカウントではなくなる。
  • ガバナンスエンジン:多段階RBACシステム、ライフサイクル管理付き仮想APIキー、スライディングウィンドウレート制限と自然期間予算制限を組み合わせた高度なクォータ管理システムを実装する。

対象ユーザー

AIエージェントの組織内での拡散を安全に監視・管理したい組織やエンジニアリングチームに向けている。特にMCPツールにおける厳格なアイデンティティ伝達と詳細なコスト帰属が必要なユーザーに最適である。

主な特徴

  • 統合AIプロキシ:1つのポートで複数のAPIフォーマット(OpenAI、Anthropic)とプロバイダー(Azure、Bedrock、Gemini)をサポート。
  • アイデンティティ対応MCP:暗号化されたOAuth/PATバケツを介して実ユーザーのアイデンティティを上流ツールに伝達し、『共有サービスアカウント』問題を回避。
  • 高度なクォータ管理:スライディングウィンドウレート制限とカレンダー同期予算制限を、モデルごとのトークン重み付けと組み合わせた高度な管理。
  • 企業向けセキュリティ:AES-256-GCM暗号化、OIDC/SSO統合、ディストロレスコンテナを採用し、最小限の攻撃面を実現。
  • 深い観測性:高パフォーマンスな監査ログにClickHouseを活用し、リアルタイム監視用にPrometheusメトリクスを提供。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト