OnlyTerp/opengrok

해결하는 문제

opengrok은 Grok Bot 데스크톱 애플리케이션용 설정 사이드카입니다. 외부 AI 모델(예: Claude, Gemini, DeepSeek)을 Grok Bot 내에서 사용할 때 흔히 발생하는 "하네스 불일치" 문제를 해결합니다. 이는 모델이 훈련된 특정 프롬프트 구조와 파라미터를 받지 못해 성능 저하, 높은 토큰 사용량, 또는 잘못된 추론 행동이 발생하기 때문입니다.

작동 방식

이 프로젝트는 Grok Bot과 다양한 AI 제공자 사이의 다리 역할을 합니다. "프로바이더 맵"(검증된 웨어 레벨 구성)을 사용하여 "사고 모드", "노력 수준", "빠른 경로 라우팅"과 같은 파라미터가 Grok Bot의 요청에서 상류 제공자(xAI, Anthropic, Google, Zhipu 등)의 특정 요구사항으로 정확히 변환되도록 보장합니다.

주요 구성 요소:

• LiquidGlass Observatory: 앱 내 HUD로, 대화 중 모델을 즉시 교체하고 실시간 텔레메트리(지연, 처리량), 컨텍스트 창 사용량을 모니터링할 수 있습니다.
• Wire Probes: 실제 API 요청을 캡처하고 검증하는 도구로, 설정의 "노브"가 실제로 모델 동작을 변경하는지, 단순히 성공 코드만 반환하는지 확인합니다.
• Binding Consumer: 클라우드 호스팅된 Grok Bot 인스턴스용 패치로, 사용자 정의 모델 바인딩을 읽을 수 있도록 합니다.
• Codex Everywhere Bridge: 특정 모델 호환성을 위해 로컬 프록시로 Chat Completions API 호출을 Responses API 호출로 변환합니다.

대상 사용자

다양한 LLM(로컬 또는 클라우드 기반)을 사용하면서 각 모델의 최적 성능과 네이티브 느낌의 동작을 유지하고 싶은 Grok Bot 데스크톱 애플리케이션 사용자.

주요 특징

• 대화 중 모델 교체: 대화를 재시작하지 않고 에이전트의 "뇌"를 변경 가능.
• 증거 기반 매핑: 모든 모델 설정은 웨어 캡처를 통해 검증되어 제공자가 실제로 파라미터를 존중함을 보장.
• 설치 없이 통합: 앱 번들에 직접 삽입되어 Grok Bot 업데이트에도 영향받지 않음.
• 실시간 텔레메트리: TTFT(Time to First Token) 및 각 봇별 토큰 흐름 실시간 추적.
• 컨텍스트 가드리언: 긴 대화(최대 256k 창)에서 클리핑을 방지하기 위한 시각적 인디케이터.