experientiallabs/experiential

何を解決するか

Experiential は、エージェントワークフロー用のオープンソースゲートウェイおよびルーターです。複数のLLMプロバイダーの管理を単純化し、1つのOpenAI互換APIを提供するとともに、ユーザーのアクセス、モデル選択、支出制限に対する制御層を追加します。また、開発者は本番トラフィック（テレメトリ）を活用して最適化されたルーターまたは専用モデルを構築できます。

動作方法

このシステムはエージェントとLLMプロバイダーの間のプロキシとして機能します。ホスト済み、Bring Your Own Key (BYOK)、およびローカルモデルをサポートしています。ユーザーはセットアップウィザードを使ってローカルゲートウェイを構築するか、マネージドホスティングプラットフォームを利用できます。プラットフォームはエージェントトラフィックからOpenTelemetryトレースを収集し、これをシミュレーションの構築やルーターの最適化、またはオープンソースモデルのファインチューニングに活用して、品質・速度・コストの向上を図れます。

対象ユーザー

AIエージェントを開発している開発者、および複数のLLMプロバイダーを異なるユースケースで管理している方で、コストとアクセスの集中管理を必要とする方々に最適です。

主な特徴

• 統合API: 1つのOpenAI互換インターフェースからホスト済み、BYOK、ローカルモデルにアクセス可能。
• コントロールプレーン: 特定のモデルの使用を許可するユーザーおよびエージェントを管理し、支出予算を設定可能。
• トラフィックから最適化へ: 本番OpenTelemetryトレースをカスタムルーターまたは最適化されたモデルに変換可能。
• 柔軟なデプロイメント: ローカルゲートウェイまたはマネージドホスティングプラットフォームとして利用可能。