Kocoro-lab/Shannon

해결하는 문제

Shannon은 AI 에이전트를 프로덕션 환경에 배포할 때 발생하는 신뢰성과 관측성의 격차를 해결합니다. 침묵하는 에이전트 실패, 급증하는 토큰 비용, 실행 과정의 가시성 부족, 에이전트가 생성한 코드 실행과 관련된 보안 위험과 같은 일반적인 프로덕션 문제를 해결합니다.

작동 방식

Shannon은 Go, Rust, Python의 다중 언어 아키텍처를 사용하여 에이전트를 오케스트레이션합니다. 장애 내성과 상태 관리를 위해 Temporal 워크플로우를 활용하여, 실행을 단계별로 재생할 수 있는 '타임트래블 디버깅'을 가능하게 합니다. 보안을 위해 WASI 사전을 사용하여 코드 실행을 격리합니다. 시스템은 요청의 복잡도에 따라 DAG, ReAct, Research, Swarm 등의 다양한 실행 전략으로 자동으로 작업을 라우팅합니다. 또한 하드한 토큰 예산과 자동 모델 폴백을 통해 비용을 관리합니다.

대상 사용자

AI 프로토타이핑을 넘어 신뢰성 있는 프로덕션 수준의 AI 에이전트를 배포하고 싶은 개발자와 조직을 위한 것입니다. 내장된 모니터링, 예산 제어, 보안 사전 격리 기능을 제공합니다.

주요 특징

• 타임트래블 디버깅: 어떤 워크플로우 실행도 단계별로 재생하여 실패 원인을 진단할 수 있습니다.
• 토큰 예산 제어: 각 작업에 하드한 토큰 제한을 설정하고, 더 저렴한 모델로 자동 전환합니다.
• 다중 전략 오케스트레이션: 단순 응답, DAG, ReAct 루프, Swarm 협업 간에 자동 라우팅이 가능합니다.
• 안전한 실행: 코드 실행을 위한 WASI 사전 격리와 보안을 위한 OPA 정책을 제공합니다.
• 다양한 프로바이더 지원: OpenAI, Anthropic, Google, Ollama를 통한 로컬 모델 포함 10개 이상의 LLM 프로바이더와 통합됩니다.
• 인간의 개입: 중요한 에이전트 작업에 대해 내장된 승인 게이트가 있습니다.