sympozium-ai/sympozium

해결하는 문제

Sympozium은 다중 에이전트 AI 시스템을 위한 Kubernetes 네이티브 조정 계층을 제공합니다. 여러 에이전트가 상황을 공유하고, 작업을 인수인계하며 공유된 상황 인식을 유지해야 하는 도전 과제를 해결하며, 에이전트를 Pod로, 정책을 사용자 정의 리소스 정의(CRD)로 취급합니다.

작동 방식

Sympozium은 AI 에이전트의 실행과 상호작용을 관리하는 제어 평면으로 작동합니다. 모든 실행은 Job이며, 모든 에이전트는 Pod로 처리되는 Kubernetes 기본 요소를 사용하여 에이전트 배포를 처리합니다. vLLM 또는 llama.cpp와 같은 다양한 추론 엔진과 OpenAI, Anthropic 등 다양한 AI 제공업체와 통합되며, 벤더 종속성 없이 작동합니다. 주요 메커니즘은 다음과 같습니다:

• 합성 막 (Synthetic Membrane): 신뢰 그룹과 가시성 태그를 통해 에이전트 간에 공유할 정보를 제어합니다.
• 에센블 (Ensembles): 단일 팩으로 활성화할 수 있는 에이전트 팀의 묶음입니다.
• 공유 워크플로우 메모리 (Shared Workflow Memory): 팩 수준의 SQLite 메모리 풀로, 다양한 역할 간 지식 공유를 가능하게 합니다.
• 스킬 사이드카 (Skill Sidecars): 일시적인 RBAC로 격리된 사이드카에서 에이전트 기능을 실행합니다.
• 에이전트 사전 (Agent Sandbox): gVisor 또는 Kata를 통해 커널 수준의 격리로 안전한 에이전트 실행을 제공합니다.

대상 사용자

Kubernetes에서 강력한 오케스트레이션, 보안, 확장성을 필요로 하는 복잡한 다중 에이전트 AI 시스템을 구축하는 개발자 및 플랫폼 엔지니어를 위한 것입니다.

주요 특징

• K8s 네이티브 아키텍처: CRD와 기본 Kubernetes 스케줄러를 사용하여 에이전트 및 모델 배치를 관리합니다.
• 다중 채널 지원: NATS JetStream을 통해 Telegram, Slack, Discord, WhatsApp와의 네이티브 통합을 지원합니다.
• MCP 서버 통합: 외부 도구 탐지 및 필터링을 위한 Model Context Protocol(MCP)을 지원합니다.
• 포괄적인 거버넌스: 도구 게이트, 네트워크 이그레스, 이미지 레지스트리 허용 목록을 포함한 클러스터 전체 SympoziumPolicy.
• 관측성: 내장된 OpenTelemetry 트레이스, Prometheus 메트릭, 실행별 토큰 비용 추정 기능.