OpenRouterTeam/ai-sdk-provider

何を解決するか

このプロジェクトは、Vercel AI SDK と OpenRouter の間の橋渡しを提供し、開発者が OpenRouter 上で利用可能な 300 種類以上の大規模言語モデルおよびさまざまな埋め込みモデルを、一貫したインターフェースを通じて簡単にアクセスできるようにします。OpenRouter で利用可能な各モデルプロバイダーごとにカスタム統合コードを書く必要がなくなります。

動作方法

これは Vercel AI SDK のプロバイダーインスタンスとして機能します。openrouter プロバイダーをインポートすることで、generateText、streamText、embed などの SDK の標準関数内で OpenRouter のモデル識別子（例：openai/gpt-4o）を指定できます。さらに、追加リクエストボディの渡し方、Anthropic 固有のプロンプトキャッシュやベータ機能（細粒度のツールストリーミングなど）の有効化、Response Healing などの OpenRouter 固有のプラグインとの統合をサポートしています。

対象ユーザー

Vercel AI SDK を使用する JavaScript および TypeScript 開発者で、アプリケーションのコアロジックを変更せずに、多数の異なる LLM および埋め込みモデルを簡単に切り替えたり利用したりしたい方。

特徴

• 膨大なモデルアクセス: 1 つの SDK で 300 種類以上の LLM と複数の埋め込みモデルにアクセス可能。
• 構造化出力サポート: Response Healing プラグインと統合し、不正な JSON 応答を自動で修復。
• 高度なモデル制御: Anthropic のプロンプトキャッシュおよび細粒度のツールストリーミングをサポートし、大規模な JSON 構造での遅延を低減。
• 詳細な使用状況追跡: 使用量の会計機能を内蔵しており、コストとトークンの内訳（BYOK（自前キー）シナリオも含む）を提供。
• デバッグツール: 上流リクエストボディをエコーするデバッグモードを備え、API 呼び出しのトラブルシューティングを支援。