InternLM/lagent
A lightweight framework for building LLM-based agents
何を解決するか
Lagent はマルチエージェントアプリケーションを構築するためのフレームワークです。PyTorch の設計哲学を参考にし、エージェントの作成や通信、メッセージのやり取りの定義を簡素化することで、開発者が直感的にワークフローを扱えるようにします。
動作方法
Lagent はエージェントとツールをネットワーク内のレイヤーとして扱い、通信は AgentMessage オブジェクトを介して行われます。エージェントの状態は、入力および出力メッセージを追跡するメモリシステムによって管理されます。フレームワークは、パーサーによる柔軟な応答フォーマットと、ActionExecutor およびフックを通じた一貫したツール呼び出しインターフェースを提供します。迅速なプロトタイピングと高パフォーマンスなデプロイをサポートするため、すべての主要コンポーネント(LLM、アクション、エグゼキューター)に対して同期および非同期の二重インターフェースを提供しています。
対象ユーザー
自己修正型ライター、コードインタプリタを使用する数学ソルバー、データ収集および可視化用のマルチエージェントシステムなど、複雑なAIエージェントワークフローを構築している開発者。
特徴
- PyTorchにインスパイアされた設計: エージェントワークフローとメッセージの送受信をレイヤーにたとえ、定義しやすくしています。
- 二重インターフェース: デバッグと大規模推論の両方に対応する、同期および非同期のコンポーネントの両方を提供します。
- 柔軟なメモリ: セッションベースのメモリ管理を内蔵しており、会話やツール環境を分離できます。
- カスタマイズ可能なアグリゲーター: メッセージをどのように集約し、LLMプロンプトに変換するかをカスタムロジックで実装できます(例:Few-shotプロンプティング)。
- 統合ツール: インタープリタ(IPython)とウェブブラウザの組み込みサポートを備えています。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト