gargpratyush/jev-router
Route to the cheapest model in claude code for your task using jev-router
解決的問題
Jev Router 為 Claude Code 和 OpenAI Codex CLI 提供自動模型路由。它透過自動將簡單請求傳送給更快、更便宜的模型,並將複雜請求傳送給更強大、"強"的模型,避免了為每個任務手動切換模型的需求,同時保持原始 CLI 的原生介面、驗證和工具整合。
運作方式
此工具作為迴圈代理運作。當使用者啟動 jev-claude 或 jev-codex 時,代理會攔截 CLI 對 AI 提供者的請求。對於每個新的使用者回合,它會呼叫 Jev 服務,根據提示的複雜度和需求來決定適當的模型層級(快速、平衡、強或長)。然後,它使用 CLI 中現有的授權標頭將請求轉發給實際的 AI 提供者。
適用對象
使用 Claude Code 或 OpenAI Codex 的開發者,希望在不離開終端型 AI 編碼助手的情況下,最佳化速度與智慧(以及潛在成本)之間的平衡。
重點
- 原生整合:保留所有原始 CLI 的按鍵綁定、工具、權限和會話處理。
- 編碼路由策略:包含處理明確使用者請求(例如,"使用 opus")的邏輯,防止在大型對話中不必要的降級,並確保故障開放行為,使 Jev 故障不會阻擋 CLI。
- 透明度:在 Claude Code 中提供狀態列,在 Codex 中提供註解,以顯示使用了哪個模型,並提供
/jev-explain技能來詳細說明路由決策背後的因素。 - 零設定驗證:使用現有的
claude login或codex login會話,無需為 AI 提供者本身提供單獨的 API 金鑰。
相關
- 專案
- 專案
- 專案
- 專案