ThinkWatchProject/ThinkWatch-Lite

해결하는 문제

ThinkWatch Lite는 AI 클라이언트(Claude Code, Codex, Aider 등)와 다양한 AI 모델 제공업체 사이에서 중개자 역할을 하는 로컬 게이트웨이입니다. 모델이나 제공업체를 전환할 때마다 여러 클라이언트의 설정을 수동으로 업데이트해야 하는 문제를 해결하며, 동시에 민감한 데이터 유출과 악의적인 도구 호출이 클라이언트에 도달하지 못하도록 보안 계층을 제공합니다.

작동 방식

이 소프트웨어는 AI 요청을 가로채는 로컬 게이트웨이로 실행됩니다. 사용자는 AI 클라이언트를 게이트웨이에 한 번만 연결하면 되며, 이후에는 클라이언트 설정을 건드리지 않고도 게이트웨이 인터페이스 내에서 업스트림과 모델을 변경할 수 있습니다. 요청이 기기를 떠나기 전에 민감한 정보(API 키, 비밀번호 등)를 마스킹하는 보안 제품군이 포함되어 있으며, 클라이언트에서 실행되기 전에 위험한 명령(코드 다운로드 및 실행 등)을 차단하기 위해 도구 호출을 검사합니다.

대상 사용자

여러 AI 코딩 어시스턴트나 LLM 클라이언트를 사용하며, API 키 관리, 비용 모니터링, AI 상호작용 보안을 중앙 집중식으로 관리하고자 하는 개발자와 파워 유저를 위해 설계되었습니다.

주요 특징

• 중앙 집중식 모델 관리: 클라이언트를 한 번 연결하면 게이트웨이 내에서 업스트림이나 모델을 자유롭게 전환 가능.
• 보안 보호: 민감한 데이터를 마스킹하고 위험한 도구 호출을 차단하여 프롬프트 인젝션 및 자격 증명 유출 방지.
• API 형식 변환: Anthropic, OpenAI, Gemini API 간의 변환을 지원하여 모든 클라이언트가 모든 업스트림과 작동하도록 함.
• 비용 추적: 모든 요청의 비용과 경로를 기록하여 상세한 사용 통계 제공.
• 업스트림 모니터링: 동일한 모델을 제공하는 서로 다른 공급업체의 성능과 정확도 비교.
• 장애 조치 및 라우팅: 라우팅 규칙과 자동 장애 조치를 구현하여 AI 서비스의 높은 가용성 보장.