langroid/langroid

Harness LLMs with Multi-Agent Programming

What it solves

Langroid は、軽量かつ拡張性のある Python フレームワークで、LLM 駆動アプリケーションの開発をシンプルにします。複数の AI エージェントを協調させて問題を解決するオーケストレーションの複雑さに対処し、開発者体験と柔軟性に重点を置いた構造化された代替手段を提供します。

How it works

Langroid は Actor Framework に触発されたマルチエージェントパラダイムを採用しています。開発者はエージェントを設定し、LLM、ベクトルストア、ツールや関数などの特定コンポーネントを装備させます。これらのエージェントにタスクを割り当て、メッセージを交換しながら協働します。フレームワークは幅広い LLM(ローカル・リモートモデルを含む)、マルチモーダル入力(PDF、画像)をサポートし、さまざまなベクトルデータベースや MCP(Model Context Protocol)などのツールアダプタと統合できます。

Who it’s for

本フレームワークは、特にマルチエージェントオーケストレーション、RAG(Retrieval‑Augmented Generation)システム、構造化情報抽出を必要とする、プロダクションレベルの LLM アプリケーションを構築したい開発者や研究者向けです。

Highlights

  • Multi-Agent Orchestration: 直感的な Agent と Task の抽象化により、協調的な問題解決を実現。
  • Broad LLM Support: OpenAI、Gemini、DeepSeek などほぼすべての LLM に対応し、Ollama や Groq を介したローカルモデルも利用可能。
  • Advanced RAG Capabilities: DocChatAgent を含み、さまざまな PDF パーサーとベクトルデータベース(例: Qdrant、Pinecone、pgvector)をサポートした文書ベース QA を提供。
  • Extensible Tooling: 関数呼び出し、XML ベースのツール、MCP ツールアダプタによる MCP サーバー活用をサポート。
  • Developer-Centric Features: 無限ループ検出、"rewind and redo" 機能のための系統追跡、タスク可視化のための HTML ロガーを搭載。