get-convex/agent

何を解決するか

このプロジェクトは、永続的なチャットスレッドを維持し、ツール呼び出しを処理し、RAG（検索拡張生成）を統合できるAIエージェントを構築するためのフレームワークを提供します。長時間実行されるエージェントワークフローをUIから分離しつつ、クライアントにリアルタイムで反応的な更新を提供する問題を解決します。

動作方法

このコンポーネントは、静的または動的ワークフローでエージェントが使用するスレッドとメッセージを管理します。LLMの抽象化を使用して、特定のプロンプティング、モデル、およびツール呼び出しを処理します。クライアントとの同期を維持するために、従来のHTTPストリーミングではなく、WebSocketを介してテキストとオブジェクトをストリーミングします。自動的に会話コンテキストを含み、スレッド内のメッセージに対してハイブリッドベクトル/テキスト検索を実行し、外部ソースからのプロンプト拡張にRAG技術をサポートします。

対象ユーザー

Convexプラットフォーム上でAI駆動のアプリケーションを開発しており、エージェントワークフロー、会話履歴、リアルタイム更新を耐久的かつ信頼性の高い方法で管理する必要がある開発者。

主な特徴

• 永続的なスレッド: ユーザーとエージェント（人間エージェントを含む）間で共有されるメッセージを管理。
• 反応型ストリーミング: 非同期関数からのテキストとオブジェクトの効率的なストリーミングにWebSocketを使用。
• 統合されたRAG: ハイブリッドベクトル/テキスト検索をサポートし、RAGコンポーネントと統合してプロンプト拡張を実現。
• 耐久性のあるワークフロー: エージェントとユーザーをまたがる複数ステップの操作を可能にする。
• 開発者ツール: プロンプトの反復に使えるエージェントプレイグラウンド、課金用の使用量追跡、LLMプロバイダーの制限を管理するレート制限を備える。