devchilll/scope

해결하는 문제

SCOPE는 은행과 같은 고위험 환경에서 운영되는 기업용 AI 에이전트를 위한 거버넌스 프레임워크를 제공합니다. 이 환경에서는 안전성, 규제 준수, 감사 가능성에 대한 요구가 매우 중요합니다. SCOPE는 에이전트가 승인되지 않은 작업을 수행하거나, 민감한 데이터를 유출하거나, 인간의 감시 없이 고위험 결정을 내리는 것을 방지합니다.

작동 방식

Google의 Agent Development Kit (ADK)를 기반으로 하며, 6개의 모듈형 기둥으로 구성된 '디펜스 인 디펜스(Defense in Depth)' 아키텍처를 채택합니다.

1. 안전성: LLM에 도달하기 전에 악성 입력을 차단하는 빠른 ML 기반 검사(예: Toxic-BERT)와 LLM 기반의 문맥 기반 안전성 검사를 병행합니다.
2. 준수성: 에이전트가 모든 결정 시 참조해야 하는 인간이 이해할 수 있는 비즈니스 및 규제 규칙(예: PCI-DSS, HIPAA)을 강제합니다.
3. IAM: USER, STAFF, ADMIN 등의 역할 기반 접근 제어(RBAC)를 구현하여 도구 접근 및 데이터 가시성을 제한합니다.
4. 에스컬레이션: 낮은 신뢰도 결정이나 고가의 거래를 인간이 개입하는 검토 대기열로 라우팅하며, SQLite에 저장합니다.
5. 데이터: 민감한 기록에 대한 안전한 운영을 위한 IAM 보호 데이터베이스 레이어를 제공합니다.
6. 로깅: 규제 보고를 위한 구조화된 감사 추적 기록과 전용 로그를 생성합니다.

대상 사용자

금융 서비스, 의료, 법무 등 규제 산업에서 미션 크리티컬 AI 에이전트를 개발하는 개발자 및 기업입니다.

주요 특징

• LLM 전 가드레일: LLM 호출 전 약 50ms 내에 위험 콘텐츠를 차단하여 비용과 지연 시간을 줄입니다.
• 의사결정 로직: 에이전트의 행동을 APPROVE, REJECT, REWRITE, ESCALATE로 분류합니다.
• 규제 템플릿: 의료, 금융, 법무 분야에 맞춘 사전 정의된 준수 규칙을 포함합니다.
• 완전한 관찰 가능성: ADK Web UI를 통한 통합 추적과 실시간 감사용 전용 터미널 기반 로그 뷰어를 제공합니다.