lofcz/LLMTornado

해결하는 문제

LLM Tornado는 여러 AI 공급자를 단일 애플리케이션에 통합하는 복잡성을 단순화하는 .NET SDK입니다. AI 에이전트, 워크플로우 및 챗봇을 구축하기 위한 통합된 공급자 독립적 인터페이스를 제공함으로써 공급자별 SDK를 개별적으로 관리할 필요성을 제거합니다.

작동 방식

이 SDK는 코드를 30개 이상의 다양한 AI 공급자(OpenAI, Anthropic, Google 또는 Ollama나 vLLM을 통한 로컬 모델 등)의 특정 요구 사항으로 변환하는 미들웨어 계층 역할을 합니다. 모듈식 아키텍처를 사용하여 일관된 구문으로 에이전트를 정의하고, 작업을 오케스트레이션하며, 벡터 데이터베이스에 연결할 수 있습니다. 데이터 통합을 위한 Model Context Protocol (MCP), Agent-to-Agent (A2A) 통신, 강력한 유형의 공급자별 확장 기능과 같은 고급 기능을 지원합니다.

대상 사용자

이 프로젝트는 특정 공급자에 종속되지 않고 AI 기반 애플리케이션을 구축하려는 .NET 개발자를 위해 설계되었습니다. 복잡하고 자율적인 에이전트 시스템이나 높은 상호 운용성과 유연한 모델 교체가 필요한 엔터프라이즈 애플리케이션을 구축하는 분들에게 이상적입니다.

주요 특징

• 통합 공급자 인터페이스: 일관된 API를 사용하여 30개 이상의 AI 공급자(클라우드 및 로컬)에 연결합니다.
• 에이전트 오케스트레이션: 핸드오프, 병렬 실행 및 그래프 기반 워크플로우를 지원하는 전문 에이전트 생성용 내장 프레임워크.
• 멀티모달 지원: 텍스트, 이미지, 비디오, 오디오 및 문서의 네이티브 처리.
• 엔터프라이즈 준비 완료: 가드레일, OpenTelemetry 지원, Microsoft.Extensions.AI 및 Semantic Kernel과의 상호 운용성을 포함합니다.
• 광범위한 생태계: Pinecone, Chroma, PgVector와 같은 주요 벡터 데이터베이스를 위한 내장 커넥터.