agents-flex/agents-flex

何を解決するか

Agents-Flex は Java エコシステム向けの軽量な AI アプリケーション開発フレームワークです。開発者は特定のランタイムやアプリケーションフレームワークに縛られることなく、インテリジェントなカスタマーサポート、企業向け知識ベース、自然言語によるデータ分析ツールなどの AI ベースのサービスを構築できます。複数のモデルプロバイダーの統合と複雑な AI ワークフローのオーケストレーションを簡素化します。

動作方法

このフレームワークは、開発者が自由に組み合わせられるモジュール型のコンポーネントで構成されています。異なるモデルタイプ（チャット、埋め込み、画像、再ランク）に対して統一された抽象化を提供し、同期およびストリーミング出力の両方に対して一貫した API を提供します。

主なメカニズムは以下の通りです：

• ツール呼び出し：アノテーションベースのツール定義と動的ツール構築をサポート。"ツールグループ" システムにより、ユーザーのプロンプトが特定の条件に一致した場合にのみツールをアタッチします。
• 耐久性のあるエージェントランタイム：AgentRunner がエージェントのターンを管理し、スナップショットの復元、ツール承認、JDBC や Redis を通じた永続化を実現します。
• RAG パイプライン：ドキュメント抽出、分割、埋め込み、およびさまざまなベクトルストアを使用した検索のための包括的なビルディングブロックを提供します。
• インターセプター：責任チェーンパターンにより、モデルに到達する前に、プロンプト、オプション、リクエストヘッダーを条件付きで変更できます。
• 専用モジュール：MCP（Model Context Protocol）、データ分析用の Text2SQL、構造化された知識ナビゲーション用の階層的「LLM Wiki」を専用サポートしています。

対象ユーザー

Spring Boot または純粋な Java（JDK 8+）と統合可能な、本番環境対応のモジュール型フレームワークを必要とする Java 開発者。

特徴

• Javaネイティブ：Java 8+ と Spring Boot とのシームレスな統合をサポート。
• 広範な統合：OpenAI、Qwen、DeepSeek、Ollama などの多数の LLM プロバイダー、Redis、Milvus、Elasticsearch などのベクトルストア、およびマルチモーダル機能（画像、動画、音声、OCR）をサポート。
• 本番環境対応：組み込みのモデルルーティング、ロードバランシング、回路遮断、OpenTelemetry を活用した監視機能を備えています。
• 柔軟なツールキット：隔離されたスキル実行用のサンドボックスと、段階的なツール発見システムを提供。
• MCP 対応：外部の MCP ツールをネイティブなフレームワークツールに変換します。