larsderidder/context-lens

해결하는 문제

Context Lens는 AI 코딩 도구에서 LLM 컨텍스트 창의 '블랙박스' 문제를 해결합니다. 개발자들은 세션이 예기치 않게 비싸지거나 토큰 한도에 도달하지만, 정확히 어떤 부분이 공간을 차지하고 있는지 알 수 없습니다. 많은 도구들이 폐쇄 소스 바이너리이기 때문에, 전통적인 SDK로 도구를 인스트루먼트하여 프롬프트 구성의 세부 분석을 할 수 없습니다.

작동 방식

이 도구는 코딩 도구와 LLM API(예: Anthropic, OpenAI, Google) 사이에 위치하는 로컬 투명 프록시로 작동합니다.

1. 프록시: HTTP 요청을 가로채어 실제 API로 전달하고, 요청/응답 쌍을 디스크에 저장합니다.
2. 분석 서버: 이러한 캡처된 데이터를 분석하여 토큰을 추정하고, 요청을 대화 단위로 그룹화하며, 비용을 계산합니다.
3. 웹 UI: 사용자가 데이터를 분석할 수 있는 시각적 대시보드를 제공합니다.

Claude Code, Aider, Cline 등의 도구와 통합하려면 환경 변수(예: ANTHROPIC_BASE_URL)를 설정하거나, 기존 URL 리디렉션으로는 리디렉션할 수 없는 도구에는 MITM(맨인더미들) 프록시를 사용합니다.

대상 사용자

AI 코딩 에이전트 및 도구를 사용하면서 토큰 사용량을 최적화하고, 세션의 비용을 이해하며, 도구가 컨텍스트 창을 어떻게 사용하는지 비효율적인 패턴을 식별하고자 하는 개발자에게 적합합니다.

주요 기능

• 구성 트리맵: 시스템 프롬프트, 도구 정의, 대화 기록, 도구 결과, 사고 블록별로 컨텍스트 사용량을 시각적으로 분해.
• 비용 추적: 다양한 모델 간 타임별 및 세션별 비용 추정.
• 컨텍스트 차이: 타임별 변화를 보여주는 델타 뷰로, 정확히 어떤 부분이 증가, 감소, 또는 추가되었는지 확인 가능.
• 발견 패널: 컨텍스트 오버플로우 위험, 큰 도구 결과, 사용되지 않는 도구 정의를 자동으로 경고.
• 코드 변경 없음: SDK나 도구 소스 코드 수정 없이 폐쇄 소스 도구와 호환 가능.
• 로컬 우선: 모든 데이터는 사용자 기기에서 저장 및 처리되며, 클라우드 계정이 필요하지 않습니다.