lofcz/LLMTornado

解决的问题

LLM Tornado 是一个 .NET SDK，简化了将多个 AI 提供商集成到单个应用程序中的复杂性。它通过提供统一的、与提供商无关的接口来构建 AI 代理、工作流和聊天机器人，消除了管理单独的、特定于供应商的 SDK 的需要。

工作原理

它充当中间件层，将您的代码转换为 30 多种不同 AI 提供商（例如 OpenAI、Anthropic、Google 以及通过 Ollama 或 vLLM 运行的本地模型）的具体要求。它使用模块化架构，您可以使用一致的语法定义代理、编排任务并连接到向量数据库。它支持诸如用于数据集成的 Model Context Protocol (MCP)、Agent-to-Agent (A2A) 通信以及强类型的特定于供应商的扩展等高级功能。

适用人群

该项目专为希望构建 AI 驱动的应用程序而不被锁定在单一供应商身上的 .NET 开发人员而设计。它非常适合那些构建复杂的、自主的代理系统或需要高互操作性和灵活模型切换的企业应用程序的开发人员。

亮点

• 统一提供商接口：使用一个一致的 API 连接到 30 多种 AI 提供商（云端和本地）。
• 代理编排：内置框架，用于创建专家代理，支持移交、并行执行和基于图的工作流。
• 多模态支持：原生处理文本、图像、视频、音频和文档。
• 企业级就绪：包含护栏、OpenTelemetry 支持以及与 Microsoft.Extensions.AI 和 Semantic Kernel 的互操作性。
• 广泛的生态系统：内置用于 Pinecone、Chroma 和 PgVector 等主流向量数据库的连接器。