plano: エージェント指向のオーケストレーションと可観測性のための AI ネイティブ プロキシサーバーおよびデータプレーン

解決する課題

Plano は、エージェント型 AI アプリケーションをデモから本番環境へ移行する際に発生する「隠れたミドルウェア」負荷に対処します。開発者が意図分類器、ルーティングロジック、プロバイダー固有の API アダプタ、複数エージェントにまたがる可観測性計測といった定型的な配管作業を手動で構築する必要がなくなります。

仕組み

Plano は Envoy 上に構築された AI ネイティブのプロキシサーバー兼データプレーンとして機能します。オーケストレーションと配信の関心事をアプリケーションコードから切り離し、プロセス外レイヤーに移行します。開発者は YAML 設定ファイルでエージェントとモデルプロバイダーを定義し、Plano がエージェント間の低遅延ルーティングを処理し、LLM プロバイダー固有の癖を管理し、OpenTelemetry のトレースとメトリクスを自動的に取得します。

対象ユーザー

特定の AI フレームワークや言語に縛られずに、本番レベルのインフラをデプロイしたいマルチエージェントシステム構築者向け。

ハイライト

• 宣言的オーケストレーション: カスタムルーティングコードを書く代わりに、YAML の自然言語記述でリクエストを適切なエージェントにルーティングします。
• モデルの柔軟性: モデル名、エイリアス、または自動選好によるルーティングを可能にする統一された LLM API。
• ゼロコード可観測性: 手動での計測を必要とせず、エージェントシグナルと OTEL トレース/メトリクスを自動でエンドツーエンド取得。
• フィルタチェーン: ガードレール、モデレーションポリシー、メモリフックをエージェント全体で一貫して追加できる組み込みサポート。