sympozium-ai/sympozium

Sympozium – 멀티 에이전트 AI를 위한 Kubernetes 네이티브 조정 계층

개요

• Kubernetes에서 실행되는 오픈 소스 제어 평면으로, K8s가 컨테이너를 오케스트레이션하는 방식으로 다수의 LLM 기반 에이전트를 오케스트레이션할 수 있습니다.
• 에이전트는 격리된 워크로드(포드, Celln이라는 마이크로 VM)로 배포됩니다. 모든 정책(에이전트가 볼 수 있는 것, 사용할 수 있는 모델, 접근할 수 있는 비밀)은 **Custom Resource Definitions(CRD)**로 표현됩니다.

주요 아이디어

기능	중요성
Synthetic Membrane	세밀한 공유 규칙(신뢰 그룹, 가시성 태그, 필드 수준 게이팅)을 통해 에이전트 팀이 모든 것을 누출하지 않고 공유 상황 인식을 얻을 수 있습니다.
Ensembles	에이전트, 스케줄, 메모리 세트를 단일 CRD로 활성화할 수 있는 Helm과 유사한 패키지로 묶습니다.
Shared Workflow Memory	SQLite 기반 메모리 풀(FTS5 지원)로 에이전트가 읽고 쓸 수 있으며, 에이전트별 액세스 제어 및 자동 감쇠 기능이 있습니다.
Model Endpoints as CRDs	모델(GGUF 파일, HuggingFace 저장소 등)을 한 번 선언하면 Sympozium이 추론 서버(vLLM, llama.cpp, TGI 등)를 시작하고 OpenAI 호환 엔드포인트를 노출합니다. 키는 중재되어 에이전트 포드가 공급자 비밀을 볼 수 없습니다.
Skill Sidecars	각 "스킬"은 최소 권한 사이드카 컨테이너에서 실행되며, 작업 완료 후 가비지 수집됩니다.
Celln fleet	/dev/kvm이 있는 노드에서 플랫폼은 장기 실행 에이전트를 위해 하드웨어 격리된 마이크로 VM(Celln)을 시작하여 웜 풀을 통해 강력한 격리와 빠른 시작을 제공합니다.
Multi-Channel adapters	NATS JetStream을 기반으로 하는 Telegram, Slack, Discord, WhatsApp용 기본 제공 Deployments로 채팅 메시지를 에이전트 이벤트로 변환합니다.
Policy & Governance CRDs	SympoziumPolicy를 통해 운영자는 각 에이전트 실행에서 허용/거부 목록, 네트워크 이그레스 규칙, 이미지 레지스트리 화이트리스트, 비밀 액세스 제어를 강제할 수 있습니다.
Observability	OpenTelemetry 트레이스, Prometheus 메트릭, 실행별 토큰 사용 비용 추정.
CLI / TUI / Web UI	sympozium 명령으로 스택을 설치하고, 터미널 UI를 시작하거나, 브라우저 대시보드에서 시각적 워크플로 캔버스를 제공합니다.

사용 방법

1. 설치 – Homebrew, 셸 스크립트 또는 Helm을 통해(CRD 먼저, 그 다음 제어 평면). 설치 프로그램은 KVM 지원 노드를 확인하고 Celln 플릿을 설정합니다.
2. 리소스 정의 – 모델, 에이전트, 앙상블, 정책 등에 대한 CRD를 생성합니다.
3. 에이전트 실행 – 에이전트는 일회성 작업, 장기 실행 HTTP 서비스, 또는 보안 어댑터를 통해 플랫폼과 통신하는 외부 하네스일 수 있습니다.
4. 관찰 및 반복 – UI는 에이전트 파이프라인의 라이브 캔버스를 표시하고, 메트릭으로 비용과 성능을 모니터링할 수 있습니다.

하지 않는 일

• 실제 LLM 추론을 호스팅하지 않습니다. 모델을 요청하고 별도의 능력 계층(예: llmfit-dra, vLLM, SGLang)에 전달합니다.
• 서빙 엔진을 대체하지 않습니다. 토큰 라우팅은 플러그인하는 추론 서버에 맡깁니다.

필요한 사용자

• 여러 전문 에이전트가 컨텍스트를 전달하고, 보안을 강제하며, 공유 Kubernetes 인프라에서 실행해야 하는 복잡한 AI 워크플로를 구축하는 팀.
• 온프레미스 또는 클라우드 클러스터 전반에서 감사 준비, 정책 기반 AI 오케스트레이션을 원하는 기업.

상태

• 활발히 개발 중이며 API는 변경될 수 있습니다. CI 배지와 최근 릴리스는 작동하는 코드베이스를 나타냅니다.

라이선스

• MIT.

---

위의 모든 세부 사항은 저장소의 README에서 직접 가져온 것입니다.