labsai/EDDI

해결하는 문제

EDDI (Enhanced Dialog Driven Interface)는 비결정론적인 AI 에이전트를 결정론적인 방식으로 제어하도록 설계된 프로덕션 등급의 미들웨어입니다. 모든 에이전트에 대해 커스텀 애플리케이션 코드를 요구하지 않고도 보안, 컴플라이언스 (GDPR, HIPAA, EU AI Act) 및 감사 가능성을 강조하는 설정 기반 오케스트레이션 엔진을 제공함으로써, 멀티 에이전트 시스템을 프로토타입에서 프로덕션으로 전환하는 과제를 해결합니다.

작동 방식

Java 25 및 Quarkus로 구축된 EDDI는 사용자, AI 에이전트 및 비즈니스 시스템 사이의 오케스트레이션 계층 역할을 합니다. 버전 관리된 JSON 구성을 사용하여 에이전트 동작을 정의하므로 재배포 없이 업데이트가 가능합니다. 시스템은 지능형 라우팅, 지속적 메모리 및 API 오케스트레이션을 통해 에이전트를 조정합니다. 광범위한 LLM 제공업체(클라우드, 엔터프라이즈 및 셀프 호스팅)를 지원하며, 상호 운용성을 위해 Model Context Protocol (MCP) 및 Agent-to-Agent (A2A) 프로토콜과 같은 오픈 표준을 구현합니다.

대상 사용자

대화형 AI를 위한 안전하고 확장 가능하며 컴플라이언스를 준수하는 멀티 에이전트 프레임워크가 필요한 개발자 및 기업, 특히 규제 산업에서 운영되거나 Python/Node 라이브러리보다 Java 기반 인프라를 선호하는 기업을 위해 설계되었습니다.

주요 특징

• 멀티 에이전트 오케스트레이션: 지능형 라우팅, 중첩된 그룹 및 멀티 에이전트 토론을 위한 6가지 내장 토론 스타일(예: Peer Review, Devil's Advocate)을 지원합니다.
• 프로덕션 거버넌스: 감사 추적을 위한 HMAC-SHA256 불변 원장, 엔벨로프 암호화된 비밀 저장소(secrets vault) 및 내장된 테넌트 할당량(quotas)을 제공합니다.
• 포괄적인 메모리: 백그라운드 유지 관리를 위한 "dream consolidation" 기능이 있는 지속적 사용자 메모리와 장기적인 컨텍스트를 위한 롤링 요약을 구현합니다.
• RAG 및 툴링: 7개의 임베딩 제공업체, 6개의 벡터 저장소 및 웹 검색, PDF 리더, 샌드박스 계산기를 포함한 일련의 내장 도구에 대한 통합 지원을 제공합니다.
• 상호 운용성: MCP, A2A, OpenAPI 3.1 및 Keycloak를 통한 OAuth 2.0/OIDC를 네이티브로 지원합니다.