lofcz/LLMTornado

解決的問題

LLM Tornado 是一款專為簡化 AI 代理與工作流程開發而設計的 .NET SDK。它提供與供應商無關的介面，消除整合多個官方 SDK 的需求，並讓開發者僅需更換模型名稱，即可輕鬆在 OpenAI、Anthropic、Google 等不同 AI 供應商之間切換。

運作方式

此 SDK 提供超過 30 個 API 供應商與向量資料庫的內建連接器。使用統一 API 進行推論、編排與多模態輸入/輸出。針對代理行為，它基於 Orchestrator（圖）、Runner（節點）與 Advancer（邊）實作編排系統。同時支援先進協定，如用於資料來源連接的 Model Context Protocol (MCP) 與跨平台協作的 Agent2Agent (A2A)。

適用對象

從簡單聊天機器人到自主代理與企業級 AI 工作流程，所有使用 .NET 建構 AI 應用程式的開發者。

主要特色

• 供應商無關：內建支援超過 30 個供應商，包括 Alibaba、Anthropic、Azure、DeepSeek、Google、Groq 與 OpenAI。
• 本地部署支援：整合支援 vLLM、Ollama 與 LocalAI。
• 代理編排：提供協調專業代理的工具，支援平行執行與 Mermaid 導出。
• 多模態功能：支援文字、影像、影片、文件、URL 與音訊。
• 向量資料庫整合：支援 Chroma、PgVector、Pinecone、Faiss 與 QDrant 連接。
• 企業級功能：包含護欄框架、Open Telemetry 支援與請求轉換功能。
• 相容性：與 Microsoft.Extensions.AI 及 Semantic Kernel 相容。