labsai/EDDI

해결하는 문제

EDDI(Enhanced Dialog Driven Interface)는 비결정론적 AI 에이전트를 결정론적 엔진 내에서 관리하기 위한 프로덕션 수준의 미들웨어입니다. 동적 코드 실행을 피하는 설정 기반 오케스트레이션 계층을 제공함으로써, 다중 에이전트 프레임워크를 일반적으로 Python/Node 라이브러리로 구축된 프로토타입에서 관리되고 보안적이며 규정 준수 가능한 프로덕션 환경으로 전환하는 문제를 해결합니다.

작동 방식

EDDI는 Java 25와 Quarkus로 구축된 오케스트레이션 계층입니다. 애플리케이션 코드에 내장된 코드 대신 버전 관리된 JSON 설정을 사용하여 사용자, AI 에이전트, 비즈니스 시스템을 조율합니다. 다양한 LLM 제공자, 벡터 스토어, 임베딩 제공자를 지원합니다. 시스템은 상호 운용성을 보장하기 위해 Model Context Protocol(MCP)과 Agent-to-Agent(A2A) 프로토콜과 같은 오픈 표준을 구현합니다. 지능형 라우팅, 지속적 메모리, 다중 에이전트 협업을 위한 구조화된 '그룹 대화' 시스템을 통해 복잡한 에이전트 상호작용을 관리합니다.

대상 사용자

엄격한 보안, 규정 준수(GDPR, HIPAA, EU AI Act), 감사 요구 사항을 충족해야 하는 프로덕션 수준의 대화형 AI가 필요한 조직, 그리고 광범위한 커스텀 오케스트레이션 코드를 작성하지 않고도 다중 에이전트 시스템을 배포하고 싶은 개발자에게 적합합니다.

주요 특징

• 다중 에이전트 오케스트레이션: 피어 리뷰, 악마의 논지, 협상과 같은 복잡한 상호작용 스타일을 지원하며, 그룹 투표와 공유 자산도 가능합니다.
• 설정 기반: 에이전트의 동작은 JSON 설정을 통해 업데이트되며, 코드 재배포 없이도 변경 가능합니다.
• 엔터프라이즈 수준 인프라: 봉투 암호화된 시크릿 밸트, HMAC-SHA256로 변경 불가능한 감사 로그, 네이티브 Kubernetes/OpenShift 지원 기능을 갖추고 있습니다.
• 광범위한 상호 운용성: MCP, A2A, OpenAPI 3.1, OAuth 2.0/OIDC에 대한 네이티브 지원을 제공합니다.
• 고급 메모리 관리: 지속적 사용자 메모리, 백그라운드 메모리 유지 보수를 위한 '꿈의 통합', 토큰 인식형 컨텍스트 창 기능을 포함합니다.
• 유연한 LLM 지원: 클라우드, 엔터프라이즈, 자가 호스팅(Ollama, Jlama 포함) 옵션을 포함한 12개의 제공자와 통합 가능하며, 다중 모델 캐스케이드도 지원합니다.
• 통합 RAG: 7개의 임베딩 제공자와 6개의 벡터 스토어를 지원하며, REST 인제스티션 API도 제공합니다.