OnlyTerp/opengrok

何を解決するか

opengrok は Grok Bot デスクトップアプリケーション用の設定サイドカーです。外部 AI モデル（Claude、Gemini、DeepSeek など）を Grok Bot 内で使用する際の「ハーネス不一致」問題を解決します。これは、モデルが訓練された特定のプロンプト形状やパラメータを受け取っていないため、性能が低下したり、トークン消費が増加したり、正しく推論できないことが原因です。

動作方法

このプロジェクトは Grok Bot とさまざまな AI プロバイダの間のブリッジとして機能します。"プロバイダーマップ"（検証済みのワイヤーレベル設定）を使用して、"思考モード"、"努力レベル"、"高速ルーティング"などのパラメータが Grok Bot のリクエストから、上流プロバイダ（例：xAI、Anthropic、Google、Zhipu）の特定要件に正確に変換されることを保証します。

主なコンポーネントは以下の通りです：

• LiquidGlass Observatory：アプリ内 HUD で、チャット中にモデルを切り替え、リアルタイムのテレメトリ（遅延、スループット）、コンテキストウィンドウ使用状況を監視できます。
• Wire Probes：実際の API リクエストをキャプチャして検証するツール。設定の「ノブ」が実際にモデルの挙動を変えるのか、単に成功コードを返すだけなのかを確認します。
• Binding Consumer：クラウドホスティングされた Grok Bot インスタンス用のパッチ。カスタムモデルバインディングを読み取れるようにします。
• Codex Everywhere Bridge：ローカルプロキシ。特定のモデル互換性のために Chat Completions API 呼び出しを Responses API 呼び出しに変換します。

対象ユーザー

さまざまな LLM（ローカルまたはクラウドベース）を使用したい Grok Bot デスクトップアプリケーションのユーザー。各モデルの最適なパフォーマンスとネイティブな挙動を維持したい人向けです。

主な特徴

• チャット中モデル切り替え：会話の再起動なしにエージェントの「脳」を変更可能。
• 証拠に基づくマッピング：すべてのモデル設定はワイヤークロージャーで検証され、プロバイダが実際にパラメータを尊重していることを保証。
• インストール不要の統合：アプリバンドルに直接挿入され、Grok Bot のアップデートにも耐える。
• リアルタイムテレメトリ：TTFT（最初のトークン到着時間）と各ボットごとのトークンフローをリアルタイムで追跡。
• コンテキストガーディアン：長時間の会話（最大 256k ウィンドウ）でクリッピングを防ぐための視覚的インジケータ。