lofcz/LLMTornado
The .NET library to build AI agents with 30+ built-in connectors.
解决的问题
LLM Tornado 解决了将各种 AI 服务集成到.NET 应用程序中的复杂性。开发人员无需为每个不同的 AI 提供商编写自定义代码，只需使用单个与提供商无关的 SDK，即可与数十个 LLM API、本地推理服务器和向量数据库进行交互。
工作原理
该工具包使用统一的接口与 30 多个 API 提供商（如 OpenAI、Anthropic 和 Google）以及本地工具（如 Ollama 或 vLLM）进行通信。它采用一种编排系统来管理智能体，使用了三个核心概念：Orchestrator（图）、Runner（节点）和 Advancer（边）。它还支持 Model Context Protocol (MCP)，用于将智能体连接到外部数据和工具。
适用对象
专为构建 AI 驱动型应用程序的.NET 开发人员设计，范围涵盖从简单的聊天机器人到复杂的自主多智能体工作流，以及需要护栏（guardrails）和可观测性的企业级系统。
亮点
- 多提供商支持：内置主要 LLM 提供商和本地部署工具的连接器。
- 智能体编排：用于协调专业智能体的框架，支持交接（handoffs）和并行执行。
- 多模态能力：支持文本、图像、视频、音频和文档。
- 广泛的集成：内置了 Chroma、Pinecone 和 Qdrant 等流行向量数据库的连接器。
- 企业级功能：包括对护栏、OpenTelemetry 和请求转换的支持。