lofcz/LLMTornado

解決する課題

LLM Tornado は、複数のAIプロバイダーを単一のアプリケーションに統合する際の複雑さを簡素化する .NET SDK です。AIエージェント、ワークフロー、チャットボットを構築するための統一されたプロバイダー非依存のインターフェースを提供することで、ベンダー固有の個別のSDKを管理する必要性を排除します。

仕組み

これは、コードを30種類以上の異なるAIプロバイダー（OpenAI、Anthropic、Google、または Ollama や vLLM を介したローカルモデルなど）の特定の要件に変換するミドルウェア層として機能します。モジュール式アーキテクチャを採用しており、一貫した構文を使用してエージェントの定義、タスクのオーケストレーション、ベクトルデータベースへの接続が可能です。データ統合のための Model Context Protocol (MCP)、Agent-to-Agent (A2A) 通信、および厳密に型指定されたベンダー固有の拡張機能などの高度な機能をサポートしています。

対象ユーザー

このプロジェクトは、単一のベンダーにロックインされることなくAI搭載アプリケーションを構築したい .NET 開発者向けに設計されています。複雑で自律的なエージェントシステムや、高い相互運用性と柔軟なモデル切り替えを必要とするエンタープライズアプリケーションを構築する方に最適です。

ハイライト

• 統一されたプロバイダーインターフェース: 一貫した API を使用して、30以上のAIプロバイダー（クラウドおよびローカル）に接続します。
• エージェントオーケストレーション: ハンドオフ、並列実行、グラフベースのワークフローをサポートする、専門エージェント作成用の組み込みフレームワーク。
• マルチモーダルサポート: テキスト、画像、ビデオ、オーディオ、ドキュメントのネイティブ処理。
• エンタープライズ対応: ガードレール、OpenTelemetry サポート、および Microsoft.Extensions.AI や Semantic Kernel との相互運用性を含みます。
• 広範なエコシステム: Pinecone、Chroma、PgVector などの主要なベクトルデータベース用の組み込みコネクタ。