langroid/langroid

何を解決するか

Langroid は、LLM に基づくアプリケーションの開発を簡素化する軽量で拡張可能な Python フレームワークです。複数の AI エージェントが協力し、メッセージを交換し、問題を共同で解決するマルチエージェントシステムの構築における複雑さに対処します。このアプローチは、アクター・フレームワークにインスパイアされた原理的なアプローチに基づいています。

動作方法

開発者はエージェントを設定し、オプションで LLM、ベクトルストア、特定のツールや関数を付与します。これらのエージェントはタスクに割り当てられ、相互作用ループを管理します。エージェントはメッセージのやり取りを通じて協力でき、フレームワークは幅広い LLM（ローカルモデルやリモートモデルを含む）をサポートし、マルチモーダル入力（PDF、画像など）に対応し、MCP（Model Context Protocol）サーバーとの統合によりツールアダプタを介してエージェント機能を拡張できます。

対象ユーザー

本フレームワークは、プロダクション環境向けの LLM アプリケーションを開発する開発者や研究者を対象としており、特にマルチエージェントのオーケストレーション、構造化情報の抽出、または RAG（Retrieval-Augmented Generation）システムを必要とするケースに適しています。

主な特徴

• マルチエージェントのオーケストレーション：協働的な問題解決を目的としたアクター・フレームワークにインスパイアされた設計。
• 広範な LLM 対応：実質的にあらゆる LLM に対応しており、ローカルモデル（例：Mistral）やリモート API（例：OpenAI、Gemini、DeepSeek）を含みます。
• 拡張可能なツール機能：関数呼び出し、MCP ツールアダプタ、さまざまな PDF パーサーおよびベクトルデータベース（例：Qdrant、Milvus、Pinecone）をサポート。
• 高度な RAG 機能：DocChatAgent には、リトリーブの精度を向上させる Reciprocal Rank Fusion（RRF）と、構造に配慮した Markdown チャンク分割が搭載されています。
• 開発者体験：エージェントとタスクのためのシンプルなセットアップと柔軟な抽象化に注力しています。