nasiko: コンテナ化されたAIエージェントの集中管理とインテリジェントなルーティングのための開発者コントロールプレーン

何を解決するか

Nasikoは、AIエージェントを大規模に管理するために設計された開発者コントロールプレーンです。本番環境内で複数の特化型AIエージェントをデプロイ、ルーティング、および監視することの複雑さを解決し、エージェントのライフサイクル管理とインテリジェントなトラフィック分散のための集中管理システムを提供します。

仕組み

Nasikoは、Kong API Gatewayを中心としたクラウドネイティブなマイクロサービスアーキテクチャを採用しています。中央レジストリを使用して、「AgentCards」（機能定義）を介してエージェントのメタデータを保存します。LangChainを活用したルーターがユーザーのクエリを分析し、これらの機能に基づいて最も適切なエージェントに意味的にマッチングさせます。エージェントはコンテナ化されたサービス（Docker/Kubernetes）としてデプロイされ、発見とロードバランシングのためにゲートウェイに自動的に登録されます。

対象ユーザー

単一のモノリシックなLLMアプリケーションに依存するのではなく、特化型AIエージェントのネットワークをオーケストレーションする必要があるAI開発者やエンタープライズチーム向けに構築されています。

ハイライト

• インテリジェントなルーティング: LangChainを使用して意図を分析し、信頼度スコアに基づいてクエリを最適なエージェントにルーティングします。
• エージェントのライフサイクル管理: バージョン管理されたストレージ、ホットデプロイ、および自動化されたコンテナ化をサポートします。
• エンタープライズインフラストラクチャ: ルーティングのためのKong API Gateway、認証のためのGitHub OAuth、およびLLMネイティブなオブザーバビリティのためのArize Phoenixを統合しています。
• 開発者ツール: エージェントのアップロード用の専用CLI、およびプラットフォーム管理用のWebベースのダッシュボードが含まれています。