hkqr/my-free-code

What it solves

My Free Codeは、コーディングエージェント（Claude Code、Clineなど）が単一のAPIに縛られることなく、多種多様なLLMプロバイダーを利用できるようにするマルチプロバイダー・ゲートウェイです。AnthropicやOpenAIなどの異なるAPIプロトコル間のリクエストを翻訳するプロキシとして機能し、基盤となるモデルへのリクエストのルーティングを管理します。

How it works

このプロジェクトは、ワイヤプロトコルをルーティングおよびプロバイダーのロジックから分離するFastAPIゲートウェイを実装しています。コーディングエージェントがリクエストを送信すると、ゲートウェイはAnthropicまたはOpenAI互換のエンドポイントを介してそれを受信し、モデルルーターを介してルーティングし、次に専用のアダプターを介して選択されたプロバイダーに送信します。

主なメカニズムには以下が含まれます：

• Protocol Translation: Anthropic MessagesおよびOpenAI Responsesプロトコルをサポートしており、異なるエージェントとの互換性を確保します。
• Model Routing & Fallback: ユーザーはプライマリモデルとフォールバックモデルのリストを設定できます。プライマリプロバイダーが出力を生成する前に失敗した場合、ゲートウェイは自動的にシーケンス内の次のモデルに切り替えます。
• Provider Integration: クラウドAPI（OpenRouter、Groq、DeepSeek）やローカルランタイム（Ollama、LM Studio、llama.cpp）を含む、幅広いプロバイダーのカタログが含まれています。
• Launcher Adapters: サポートされているコーディングエージェントを、正しい環境変数とプロキシ設定を使用して簡単に起動するためのCLIツールを提供します。

Who it’s for

コーディングエージェントを使用しているが、異なるLLMプロバイダー、ローカルモデル、または信頼性のための自動フェイルオーバーを実装したい開発者やAIエンジニア。

Highlights

• Extensive Provider Support: NVIDIA NIM、OpenRouter、Groq、およびOllamaのようなローカルツールを含む、数十のプロバイダーと統合されています。
• Detailed Routing Control: プロバイダーごとの並行性、レートウィンドウ制御、および順序付きモデルフォールバックをサポートしています。
• Reasoning Pass-through: Claudeスタイルの思考/推論メタデータを処理し、プロバイダー固有のフィールドにマッピングします。
• Agent Launchers: 専用のCLIを介して、Claude Code、Codex、Clineなどのエージェントを起動するための組み込みサポートを提供します。
• Admin UI: ステータスとプロバイダーを監視するためのローカル管理インターフェースと認証済みAPIが含まれています。