lofcz/LLMTornado
The .NET library to build AI agents with 30+ built-in connectors.
解決的問題
LLM Tornado 解決了將各種 AI 服務整合至.NET 應用程式中的複雜性。開發人員無需為每個不同的 AI 提供商編寫自定義程式碼，只需使用單一且與提供商無關的 SDK，即可與數十個 LLM API、本地推論伺服器及向量資料庫進行互動。
工作原理
此工具包使用統一的介面與 30 多個 API 提供商（如 OpenAI、Anthropic 和 Google）以及本地工具（如 Ollama 或 vLLM）進行通訊。它採用一種編排系統來管理代理，使用了三個核心概念：Orchestrator（圖）、Runner（節點）和 Advancer（邊）。它還支援 Model Context Protocol (MCP)，用於將代理連接到外部數據與工具。
適用對象
專為建構 AI 驅動型應用程式的.NET 開發人員設計，範圍涵蓋從簡單的聊天機器人到複雜的自主多代理工作流，以及需要護欄（guardrails）與可觀測性的企業級系統。
亮點
- 多提供商支援：內建主要 LLM 提供商與本地部署工具的連接器。
- 代理編排：用於協調專業代理的框架，支援交接（handoffs）與並行執行。
- 多模態能力：支援文本、圖像、影片、音訊及文件。
- 廣泛的整合：內建了 Chroma、Pinecone 和 Qdrant 等流行向量資料庫的連接器。
- 企業級功能：包括對護欄、OpenTelemetry 及請求轉換的支援。