Atmosphere/atmosphere

해결하는 문제

Atmosphere는 JVM에서 AI 에이전트를 프로덕션 수준의 서비스로 배포하기 위한 실시간 엔진을 제공합니다. 단순한 데모에서 기업 환경으로의 전환이라는 과제를 해결하며, 내장된 스트리밍 전송, 엄격한 거버넌스(예: PII 마스킹 및 비용 상한선), 장시간 실행 작업을 위한 지속 가능한 세션 관리, 그리고 엔드포인트를 다시 작성하지 않고도 AI 프레임워크를 교체할 수 있는 기능을 제공합니다.

작동 방식

Atmosphere는 AI 런타임을 둘러싸는 서비스 계층으로 작동합니다. 브로드캐스터 파이프라인을 사용하여 LLM에서 WebSocket, SSE, gRPC, 또는 롱폴링을 통해 클라이언트로 토큰을 스트리밍합니다. 개발자는 @Agent 어노테이션을 사용해 에이전트를 정의할 수 있으며, 내장된 메모리, 계획 도구, 가상 파일 시스템을 갖춘 '딥 에이전트'도 생성할 수 있습니다. Runtime SPI(Service Provider Interface)와 여러 어댑터(예: Spring AI, LangChain4j, Anthropic)를 사용해 다양한 AI 프레임워크 간의 이식성을 유지합니다.

대상 사용자

기존 JVM 스택(Spring Boot, Quarkus, Netty 등) 내에서 인간이 개입하는(HITL), 다중 채널, 거버넌스가 적용된 AI 에이전트를 개발하는 팀에게 적합하며, 프로덕션 수준의 안정성과 감시 기능이 필요합니다.

주요 특징

• 다중 전송 방식 스트리밍: WebSocket, SSE, gRPC, 롱폴링을 기본 제공하여 즉시 사용 가능.
• 기업용 거버넌스: 정책 승인, @AgentScope를 통한 프롬프트 차단, PII 재작성, 관리자 강제 종료 스위치 포함.
• 지속 가능한 HITL: 스레드를 차지하지 않고 일시 중단된 인간의 승인을 REST 엔드포인트를 통해 재개 가능.
• 풍부한 통합: 다양한 프레임워크용 12개의 런타임 어댑터 및 Anthropic, Cohere용 네이티브 클라이언트 제공.
• 딥 에이전트 기능: 메모리, 계획(write_todos), 가상 파일 시스템 내장 지원.
• 광범위한 프로토콜 지원: MCP, A2A, AG-UI, Slack, Telegram, Discord 등 다양한 채팅 채널을 통해 에이전트 노출.