lofcz/LLMTornado

何を解決するか

LLM Tornado は、AIエージェントとワークフローの開発を簡素化するための .NET SDK です。プロバイダに依存しないインターフェースを提供することで、複数の公式SDKを統合する必要をなくし、モデル名を変更するだけで、OpenAI、Anthropic、Googleなどの異なるAIプロバイダ間を簡単に切り替えることができるアプリケーションの構築を可能にします。

動作方法

このSDKは30以上のAPIプロバイダおよびベクトルデータベースへの組み込み接続を提供します。推論、オーケストレーション、マルチモーダル入出力には統一APIを使用します。エージェント行動のためには、Orchestrator（グラフ）、Runner（ノード）、Advancer（エッジ）に基づくオーケストレーションシステムを実装しています。また、データソース接続にModel Context Protocol (MCP)、クロスプラットフォーム協働にAgent2Agent (A2A) といった最先端プロトコルもサポートしています。

対象ユーザー

シンプルなチャットボットから自律エージェント、エンタープライズグレードのAIワークフローまで、AIを活用したアプリケーションを開発する .NET 開発者。

主な特徴

• プロバイダ非依存: Alibaba、Anthropic、Azure、DeepSeek、Google、Groq、OpenAIなどを含む30以上のプロバイダ用の組み込み接続。
• ローカルデプロイメント対応: vLLM、Ollama、LocalAI との統合サポート。
• エージェントオーケストレーション: 専門エージェントの連携ツール。並列実行とMermaidエクスポートをサポート。
• マルチモーダル機能: テキスト、画像、動画、ドキュメント、URL、音声をサポート。
• ベクトルデータベース統合: Chroma、PgVector、Pinecone、Faiss、QDrant との接続。
• エンタープライズ機能: ガードレールフレームワーク、Open Telemetryサポート、リクエスト変換機能を含む。
• 相互運用性: Microsoft.Extensions.AI および Semantic Kernel と互換性あり。