ThinkWatchProject/ThinkWatch

해결하는 문제

ThinkWatch는 기업용 보안 게이트웨이로, AI API 호출과 모델 컨텍스트 프로토콜(MCP) 도구 호출을 조직 전체에서 통합적으로 관리하기 위해 설계되었습니다. 분산된 API 키, 토큰 사용량 및 비용에 대한 가시성 부족, 모델 및 도구에 대한 접근 제어 누락, 감사 로그에서의 준수 이슈와 같은 일반적인 조직적 과제를 해결합니다.

작동 방식

ThinkWatch는 통합 프록시(Gateway)와 관리 인터페이스(Console)로 작동합니다. 모든 AI 요청과 MCP 도구 호출을 가로채며, 인증, 권한 부여, 모니터링을 위한 단일 제어 평면을 제공합니다.

• AI 게이트웨이: Cursor나 Claude Code와 같은 다양한 AI SDK 및 클라이언트의 즉시 대체로 작동하며, OpenAI, Anthropic, Google Gemini와 같은 제공자에게 요청을 라우팅합니다. 포맷 변환 및 스트리밍 처리도 수행합니다.
• MCP 게이트웨이: 일반적인 프록시와 달리, 사용자별 OAuth 토큰 또는 PAT를 사용하여 실제 사용자 ID를 상류 서버로 전파합니다. 이로 인해 상류 측 감사 로그에 실제 사용자가 반영되며, 공유 서비스 계정이 아닌 실제 사용자 기록이 남습니다.
• 가버넌스 엔진: 다단계 RBAC 시스템, 라이프사이클 관리가 가능한 가상 API 키, 슬라이딩 윈도우 기반 레이트 제한과 자연 기간 예산 제한을 결합한 고도화된 할당량 시스템을 구현합니다.

대상 사용자

팀 내 AI 에이전트 확산을 안전하게 감시하고 통제해야 하는 조직 및 엔지니어링 팀을 위한 제품입니다. 특히 MCP 도구에 대해 엄격한 사용자 ID 전파와 상세한 비용 추적을 필요로 하는 사용자에게 적합합니다.

주요 특징

• 통합 AI 프록시: 하나의 포트에서 OpenAI, Anthropic 등의 다양한 API 형식과 Azure, Bedrock, Gemini 등의 제공자를 지원합니다.
• 아이덴티티 인식 MCP: 암호화된 OAuth/PAT 백업을 통해 실제 사용자 ID를 상류 도구로 전파하여 '공유 서비스 계정' 문제를 방지합니다.
• 고도화된 할당량 관리: 슬라이딩 윈도우 기반 레이트 제한과 캘린더 기반 예산 제한을 모델별 토큰 가중치와 결합하여 정교한 관리가 가능합니다.
• 기업용 보안: AES-256-GCM 암호화, OIDC/SSO 통합, 디스트로레스 컨테이너를 통해 최소한의 공격 표면을 확보합니다.
• 심층적 관측성: 고성능 감사 로그를 위해 ClickHouse를 사용하며, 실시간 모니터링을 위한 Prometheus 메트릭을 제공합니다.