lofcz/LLMTornado

The .NET library to build AI agents with 30+ built-in connectors.

解決する課題

LLM Tornadoは、さまざまなAIサービスを.NETアプリケーションに統合する際の複雑さを解決します。AIプロバイダーごとにカスタムコードを記述する代わりに、開発者は単一のプロバイダーに依存しないSDKを使用して、数十のLLM API、ローカル推論サーバー、およびベクトルデータベースとやり取りできます。

仕組み

このツールキットは、統一されたインターフェースを使用して、30以上のAPIプロバイダー（OpenAI、Anthropic、Googleなど）およびローカルツール（OllamaやvLLMなど）と通信します。エージェントのオーケストレーションシステムには、3つのコア概念である Orchestrator（グラフ）、Runner（ノード）、Advancer（エッジ）を採用しています。また、エージェントを外部データやツールに接続するためのModel Context Protocol (MCP) もサポートしています。

対象者

シンプルなチャットボットから、複雑で自律的なマルチエージェントワークフロー、ガードレールやオブザーバビリティを必要とするエンタープライズグレードのシステムまで、AIを活用したアプリケーションを構築する.NET開発者向けに設計されています。

ハイライト

  • マルチプロバイダー対応: 主要なLLMプロバイダーおよびローカルデプロイメントツールのための組み込みコネクタ。
  • エージェント・オーケストレーション: ハンドオフや並列実行をサポートする、専門エージェントを調整するためのフレームワーク。
  • マルチモーダル機能: テキスト、画像、ビデオ、オーディオ、ドキュメントをサポート。
  • 広範な統合: Chroma、Pinecone、Qdrantなどの一般的なベクトルデータベース用の組み込みコネクタ。
  • エンタープライズ機能: ガードレール、OpenTelemetry、およびリクエスト変換のサポートを含む。