Hotakus/opencode-visual-cache

해결하는 문제

OpenCode Visual Cache는 OpenCode용 TUI(터미널 사용자 인터페이스) 플러그인으로, LLM 토큰 캐시의 실시간 가시성을 제공합니다. 사용자가 캐시 히트율, 토큰 사용 세부 정보, 그리고 프롬프트 캐싱으로 인해 발생하는 비용과 절감 효과를 모니터링할 수 있도록 도와줍니다. 이러한 정보는 일반적인 터미널 인터페이스에서는 사용자에게 보이지 않는 경우가 많습니다.

작동 방식

이 플러그인은 OpenCode SDK와 통합되어 AI 제공업체로부터 실시간 토큰 데이터와 가격 정보를 가져옵니다. 업계 표준 공식을 사용하여 캐시 히트율을 계산하고, 접을 수 있는 사이드바 패널과 선택적 하단 상태바에 데이터를 표시합니다. 또한 문자 수 기반으로 역할(시스템, 사용자, 서브에이전트, 도구)별 토큰 분포를 추정하여 토큰 소비 방식을 분석할 수 있도록 합니다.

대상 사용자

API 비용을 추적하고, 프롬프트 캐싱 효율을 최적화하며, 세션 및 서브에이전트의 토큰 사용량을 실시간으로 모니터링하고 싶은 개발자 및 고급 사용자에게 적합합니다.

주요 기능

• 실시간 캐시 모니터링: 색상 코드가 적용된 프로그레스 바로 캐시 히트율 표시 (녹색: $\ge 85%$, 주황색: $\ge 70%$, 빨간색: $< 70%$)
• 비용 추적: 세션 누적 비용과 캐싱으로 인한 절감 금액 계산, 다중 통화 및 사용자 정의 환율 지원
• 세부 토큰 분석: 캐시 읽기, 쓰기, 미스, 출력 토큰을 추적하고, 역할별 추정 분포 제공
• uma Balance 통합: DeepSeek, SiliconFlow, OpenRouter, Moonshot 등 여러 AI 제공업체의 계정 잔액을 조회하고 자동 제공업체 전환 기능 제공
• 서브에이전트 지원: 세션 내 특정 서브에이전트의 캐시 통계를 모니터링할 수 있도록 뷰 전환 기능 제공
• 사용자 정의 가능한 UI: 접을 수 있는 패널, 다국어 지원(중국어, 영어, 일본어, 한국어), 설정 가능한 하단 상태바 제공