JuliusBrussee/caveman

해결하는 문제

Caveman은 AI 에이전트가 사용하는 토큰 수를 줄여 비용을 낮추고 답변 품질을 희생하지 않으면서 속도를 높일 수 있습니다. 출력(에이전트가 말하는 내용)과 입력(에이전트가 읽는 내용) 모두를 대상으로 합니다.

작동 방식

Caveman은 토큰 사용량을 줄이기 위해 두 가지 주요 메커니즘을 사용합니다:

1. 스킬(출력 감소): 에이전트의 응답에 특정하고 전문 용어가 적은 "원시인 스타일" 음성을 강제합니다. 이 음성은 ASD-STE100 통제 영어를 기반으로 한 엄격한 규칙(예: 먼저 답하기, 문장당 하나의 아이디어, 인사나 요약 없음)을 따릅니다. 코드, 숫자, 단위와 같은 필수 정보를 정확하게 유지하면서 대화형 잡담을 제거합니다.
2. 프록시(입력 감소): 에이전트가 읽는 데이터를 압축하는 로컬 프록시. CSV, 로그, YAML, JSON과 같은 노이즈가 많은 파일을 크게 줄이고 전체 HTML 덤프 대신 caveman browse를 통해 압축된 웹 페이지를 제공합니다.

대상 사용자

AI 에이전트(Claude Code, Cursor, Windsurf, Copilot 등)를 사용하는 개발자와 SDK(TypeScript 및 Python)를 사용하여 자체 에이전트를 구축하는 개발자로, LLM API 비용과 토큰 제한을 줄이려는 분들.

주요 특징

• 상당한 토큰 절약: Adobe와 JetBrains의 연구에 따르면 전체 세션에서 입력 토큰을 최대 33.2% 줄이고 출력 토큰을 1.4~2.4배 줄입니다.
• 광범위한 호환성: Claude Code, Gemini CLI 등 30개 이상의 에이전트에서 작동합니다.
• 확장 가능한 SDK: Vercel AI SDK, LangChain, OpenAI, Anthropic 호출을 위한 미들웨어를 제공합니다.
• 데이터 보존 압축: 프록시는 로그와 JSON을 98% 이상 줄이면서 답변 정확도를 유지합니다.
• 전문 명령: 한 줄 커밋을 위한 /caveman-commit 및 간결한 코드 리뷰를 위한 /caveman-review와 같은 도구가 포함됩니다.