InternLM/lagent

A lightweight framework for building LLM-based agents

何を解決するか

Lagent はマルチエージェントアプリケーションを構築するためのフレームワークです。PyTorch の設計哲学を参考にし、エージェントの作成や通信、メッセージのやり取りの定義を簡素化することで、開発者が直感的にワークフローを扱えるようにします。

動作方法

Lagent はエージェントとツールをネットワーク内のレイヤーとして扱い、通信は AgentMessage オブジェクトを介して行われます。エージェントの状態は、入力および出力メッセージを追跡するメモリシステムによって管理されます。フレームワークは、パーサーによる柔軟な応答フォーマットと、ActionExecutor およびフックを通じた一貫したツール呼び出しインターフェースを提供します。迅速なプロトタイピングと高パフォーマンスなデプロイをサポートするため、すべての主要コンポーネント(LLM、アクション、エグゼキューター)に対して同期および非同期の二重インターフェースを提供しています。

対象ユーザー

自己修正型ライター、コードインタプリタを使用する数学ソルバー、データ収集および可視化用のマルチエージェントシステムなど、複雑なAIエージェントワークフローを構築している開発者。

特徴

  • PyTorchにインスパイアされた設計: エージェントワークフローとメッセージの送受信をレイヤーにたとえ、定義しやすくしています。
  • 二重インターフェース: デバッグと大規模推論の両方に対応する、同期および非同期のコンポーネントの両方を提供します。
  • 柔軟なメモリ: セッションベースのメモリ管理を内蔵しており、会話やツール環境を分離できます。
  • カスタマイズ可能なアグリゲーター: メッセージをどのように集約し、LLMプロンプトに変換するかをカスタムロジックで実装できます(例:Few-shotプロンプティング)。
  • 統合ツール: インタープリタ(IPython)とウェブブラウザの組み込みサポートを備えています。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト