OnlyTerp/opengrok
Run any model in Grok Bot — one-command setup, model picker UI, evidence-based provider wire maps, and an update-proof doctor. Not farming you, arming you.
解決的問題
opengrok 是 Grok Bot 桌面應用程式的設定側車。它解決了使用外部 AI 模型(如 Claude、Gemini 或 DeepSeek)時常見的「適配不匹配」問題,即由於模型未接收到其訓練時所依賴的特定提示格式和參數,導致性能差、Token 消耗高或推理行為錯誤。
工作原理
此專案扮演 Grok Bot 與各種 AI 提供者之間的橋樑。它使用「提供者映射」——經過驗證的底層通訊設定——確保諸如「思考模式」、努力等級和快速通道路由等參數能從 Grok Bot 的請求準確轉換為上游提供者(如 xAI、Anthropic、Google、Zhipu)的具體要求。
主要組件包括:
- LiquidGlass Observatory:應用內 HUD,允許使用者在聊天過程中切換模型,即時監控遙測資料(延遲、吞吐量),並追蹤上下文視窗使用情況。
- Wire Probes:用於捕獲並驗證實際 API 請求的工具,確保設定的「旋鈕」確實改變了模型行為,而不僅僅是回傳成功代碼。
- Binding Consumer:用於雲端託管 Grok Bot 實例的補丁,使其能夠讀取自訂模型綁定。
- Codex Everywhere Bridge:本地代理,將特定模型相容性所需的 Chat Completions API 呼叫轉換為 Responses API 呼叫。
適用對象
希望在 Grok Bot 桌面應用程式中使用多種不同 LLM(本地或雲端)的使用者,同時保持每個模型的最優性能與原生體驗。
主要亮點
- 聊天中模型切換:無需重啟對話即可更換代理的「大腦」。
- 基於證據的映射:每個模型設定均透過網路抓包驗證,確保提供者實際遵循參數設定。
- 零安裝整合:直接注入應用程式套件,可抵禦 Grok Bot 更新。
- 即時遙測:即時追蹤 TTFT(首個 Token 到達時間)和每個機器人的 Token 流量。
- 上下文守護者:視覺指示器,防止長時間對話(最高達 256k 視窗)中的截斷。
相關
- Dispatch
- 專案
- Dispatch
- 專案
- Dispatch