lofcz/LLMTornado

解决的问题

LLM Tornado 是一个为简化 AI 代理和工作流开发而设计的 .NET SDK。它提供了一个与供应商无关的接口，消除了集成多个官方 SDK 的需求，并允许开发者仅通过更改模型名称，即可在 OpenAI、Anthropic 和 Google 等不同 AI 供应商之间轻松切换。

工作原理

该 SDK 提供了对 30 多个 API 供应商和向量数据库的内置连接器。它使用统一的 API 进行推理、编排和多模态输入/输出。对于代理行为，它基于 Orchestrator（图）、Runner（节点）和 Advancer（边）实现编排系统。同时支持前沿协议，如用于数据源连接的 Model Context Protocol (MCP) 和用于跨平台协作的 Agent2Agent (A2A)。

适用人群

从简单聊天机器人到自主代理和企业级 AI 工作流，所有使用 .NET 构建 AI 应用程序的开发者。

主要亮点

• 供应商无关：内置对 30 多个供应商的支持，包括 Alibaba、Anthropic、Azure、DeepSeek、Google、Groq 和 OpenAI。
• 本地部署支持：集成支持 vLLM、Ollama 和 LocalAI。
• 代理编排：提供协调专业代理的工具，支持并行执行和 Mermaid 导出。
• 多模态能力：支持文本、图像、视频、文档、URL 和音频。
• 向量数据库集成：支持 Chroma、PgVector、Pinecone、Faiss 和 QDrant 的连接。
• 企业级功能：包含护栏框架、Open Telemetry 支持和请求转换功能。
• 互操作性：与 Microsoft.Extensions.AI 和 Semantic Kernel 兼容。