NadirRouter/NadirClaw

何を解決するか

NadirClawは、信頼できる回答が可能な最も安価なモデルにプロンプトをルーティングすることで、AI APIコストを削減します。シンプルなタスク（JSONのフォーマットや基本的な質問など）に高価なプレミアムモデルを使用する無駄を防ぎつつ、必要に応じてより強力なモデルに自動的にステップアップすることで、高品質な応答を保証します。

動作方法

NadirClawは、すべてのリクエストに対して3段階のプロセスを実行するドロップインプロキシとして機能します：

1. ルーティング：高速な埋め込み分類器（~10ms）が最小限の実行可能なモデルを予測します。視覚コンテンツ、長文コンテキスト、またはエージェントツールループなどの特定のトリガーに基づいて、この予測を上書きできます。
2. 検証：安価なモデルからの応答が品質ヒューリスティクス（拒否、切り捨て、JSONエラーのチェックなど）に合致しているか確認します。
3. ステップアップ：応答が検証基準を満たさない場合、システムは自動的に次の最適なモデルに切り替えます。

対象ユーザー

複数のLLMプロバイダを使用し、品質を損なうことなく運用コストを削減したい開発者やチーム向けに設計されています。Cursor、Aider、WindsurfなどのOpenAI互換クライアントを使用しているユーザーにとって特に有用です。

主な特徴

• コスト削減：各リクエストごとにプレミアムベースラインと比較して実際の節約額を測定・報告します。
• ドロップイン互換性：ローカルプロキシ経由で、任意のOpenAI互換ツールと連携可能です。
• コンテキスト最適化：膨らんだコンテキスト（JSON、履歴、空白文字など）を圧縮し、入力トークンを30〜70％削減します。
• 柔軟なルーティング：N段階のYAML設定、信頼性のためのフォールバックチェーン、推論や視覚タスク向けの専用ルーティングをサポートします。
• プライバシー最優先：ローカルで実行されるため、APIキーがユーザーのマシン外に漏れる心配がありません。
• 包括的なモニタリング：ライブダッシュボード、Prometheusメトリクス、詳細なコストレポートを備えています。