sting8k/pi-vcc

무엇을 해결하는가

pi-vcc는 Pi AI 코딩 에이전트를 위한 알고리즘 기반 대화 압축 도구입니다. 이는 컨텍스트 윈도우 오버플로 문제와, 대화 기록이 폐기되거나 환각 현상이 발생하는 표준 LLM 기반 요약 과정에서 발생하는 정보 손실 문제를 해결합니다. 압축 프로세스 자체를 위해 LLM 호출에 의존하지 않고도 토큰 사용량을 35-99%까지 줄여줍니다.

작동 방식

대화를 다시 작성하기 위해 LLM을 사용하는 대신, pi-vcc는 순수하게 알고리즘적인 접근 방식을 사용하여 간결한 트랜스크립트를 추출하고 형식을 지정합니다. 토큰 추정치를 보정하고, 노이즈를 필터링하며, 정규식(regex) 및 패턴 매칭을 사용하여 핵심적인 의미론적 섹션(세션 목표, 수정된 파일, git commits 등)을 추출하는 파이프라인을 통해 대화를 처리합니다.

영구적인 데이터 손실을 방지하기 위해, 원본 세션 JSONL 파일을 직접 읽는 vcc_recall 도구를 포함하고 있어, 에이전트가 즉각적인 컨텍스트에서 압축되어 제외된 메시지라 할지라도 활성 계보(lineage) 또는 대화의 모든 브랜치에서 특정 과거 메시지를 검색하고 검색할 수 있도록 합니다.

대상 사용자

중요한 기술적 세부 사항을 잃지 않으면서, 길고 긴 대화 기록을 관리할 수 있는 검색 가능하고 결정론적이며 비용 효율적인 방법을 유지하고자 하는 Pi AI 코딩 에이전트 사용자.

주요 특징

• Zero LLM Cost: 압축을 알고리즘 방식으로 수행하여, 요약 호출과 관련된 API 비용 및 지연 시간을 제거합니다.
• Lossless Recall: 원본 세션 파일을 읽음으로써 표준 압축 방식을 우회하고, 정규식 및 키워드 검색을 통해 전체 기록을 검색 가능한 상태로 유지합니다.
• Semantic Structuring: 압축된 기록을 세션 목표(Session Goal), 파일 및 변경 사항(Files & Changes), 커밋(Commits), 미결 컨텍스트(Outstanding Context), 사용자 설정(User Preferences)의 다섯 가지 특정 섹션으로 구성합니다.
• Deterministic Output: 동일한 입력에 대해 항상 동일한 출력을 생성하여, 기록 압축 중 LLM 환각의 위험을 제거합니다.
• Customizable Compaction: /pi-vcc를 통한 수동 트리거와 최근 대화 턴을 얼마나 보존할지 최적화하는 "smart keep" 로직을 지원합니다.