lofcz/LLMTornado
The .NET library to build AI agents with 30+ built-in connectors.
해결하는 문제
LLM Tornado는 다양한 AI 서비스를.NET 애플리케이션에 통합할 때 발생하는 복잡성을 해결합니다. 각 AI 제공업체마다 커스텀 코드를 작성하는 대신, 개발자는 단일 프로바이더 불가지론적(provider-agnostic) SDK를 사용하여 수십 개의 LLM API, 로컬 추론 서버 및 벡터 데이터베이스와 상호 작용할 수 있습니다.
작동 방식
이 툴킷은 통합 인터페이스를 사용하여 30개 이상의 API 제공업체(OpenAI, Anthropic, Google 등) 및 로컬 도구(Ollama 또는 vLLM 등)와 통신합니다. 에이전트 오케스트레이션 시스템에는 세 가지 핵심 개념인 Orchestrator(그래프), Runner(노드), Advancer(에지)가 사용됩니다. 또한 에이전트를 외부 데이터 및 도구에 연결하기 위한 Model Context Protocol (MCP)을 지원합니다.
대상 사용자
단순한 챗봇부터 복잡하고 자율적인 멀티 에이전트 워크플로우, 가드레일 및 관찰 가능성(observability)이 필요한 엔터프라이즈급 시스템에 이르기까지 AI 기반 애플리케이션을 구축하는.NET 개발자를 위해 설계되었습니다.
주요 특징
- 멀티 프로바이더 지원: 주요 LLM 제공업체 및 로컬 배포 도구를 위한 내장 커넥터.
- 에이전트 오케스트레이션: 핸드오프 및 병렬 실행을 지원하며 전문 에이전트를 조정하기 위한 프레임워크.
- 멀티모달 기능: 텍스트, 이미지, 비디오, 오디오 및 문서를 지원합니다.
- 광범위한 통합: Chroma, Pinecone, Qdrant와 같은 인기 있는 벡터 데이터베이스를 위한 내장 커넥터.
- 엔터프라이즈 기능: 가드레일, OpenTelemetry 및 요청 변환 지원 포함.