archestra-ai/OpenAPPA

OpenAPPA – LLM 에이전트를 위한 결정론적 가드레일

개요 – OpenAPPA (Agentic Permissions Policy Algebra)는 AI 에이전트와 외부 도구 호출 사이에 위치하는 경량의 결정론적 런타임입니다. 도구를 호출할 때마다 *“이 데이터를 이 목적지로 보내도 되는가?”*라는 질문을 던집니다. 이 결정은 선언적 정책(TOML 작성)과 이벤트 로그를 기반으로 이루어지며, 네트워크나 파일 I/O 없이 동일한 입력에 대해 항상 동일한 답변을 보장합니다.

중요성 – LLM 기반 에이전트는 종종 민감한 정보(개인 이메일, 회의 녹취록 등)를 읽고 도구(API, 파일 쓰기, 코드 실행 등)를 호출합니다. 기존 가드레일은 확률적이라 데이터 유출을 허용하거나 정당한 업무를 방해할 수 있습니다. OpenAPPA는 결정론적이고 정책 기반의 검사를 제공하여 높은 작업 완료율을 유지하면서 승인되지 않은 데이터 흐름을 방지합니다.

주요 구성 요소

• APPA engine – 데이터의 현재 민감도/신뢰 수준과 대상 도구에 대해 정책을 평가하여 허용/거부 결정을 반환합니다.
• Policy language – 어떤 데이터 범주(PII, 기밀 정보 등)가 어떤 목적지(웹훅, 리포지토리, 클라우드 서비스 등)로 전송될 수 있는지 기술하는 간단한 TOML 파일.
• CLI – appa describe --check로 정책 파일을 검증하고, appa replay로 스크립트화된 도구 호출을 재생하여 예상된 결정을 확인할 수 있습니다(CI 검사에 유용).
• Integrations – Claude Code용 플러그인과 더불어, LLM 프록시(Claude Desktop, Cursor, Codex, Copilot CLI, n8n 등)를 통해 LLM과 통신하는 모든 에이전트를 보호할 수 있는 사이드카 프록시(Archestra).

벤치마크 – 두 가지 제품군에서 평가되었습니다:

• Bench‑Corp (20개의 다단계 기업 워크플로우) 및 AgentThreatBench (에이전트 앱 대상 OWASP Top 10). 1,320회 실행에서 OpenAPPA는 공격을 0 % 차단하면서 작업의 약 89 %를 완료했습니다. 경쟁 시스템(Microsoft FIDES, Claude Auto mode)은 각각 31 %와 10 %의 공격을 통과시켰으며 작업 완료율도 낮았습니다.

시작하기

# 런타임 및 Claude Code 플러그인 설치
curl -fsSL https://openappa.com/install.sh | sh && \
  ~/.local/bin/appa plugin install claude-code

# 보호된 Claude Code 세션 시작
clappa

APPA 런타임을 자체 에이전트(언어 무관)에 직접 내장하거나, 도구 호출을 가로채는 사이드카 프로세스로 실행할 수도 있습니다.

일반적인 사용 사례

• 기밀 문서를 다루며 외부 API 호출 전 데이터 흐름 정책을 강제해야 하는 기업용 에이전트.
• 규정 준수(GDPR, HIPAA 등)가 요구되는 LLM 기반 어시스턴트 개발.
• 새로운 정책 개정이 정당한 도구 사용을 의도치 않게 방해하지 않는지 자동 검증하는 CI 파이프라인.

상태 – 본 프로젝트는 preview/RFC 모드입니다. 핵심 대수와 복구 보장은 프리프린트 논문(APPA: Recoverable Information‑Flow Control for Real‑World LLM Agents, arXiv 2607.24625)에 기술되어 있으며, NeurIPS 2026의 'Agents in the Wild' 워크숍에 채택되었습니다. API와 설정 형식은 변경될 수 있지만, 리포지토리는 실험 및 통합에 사용할 수 있습니다.

라이선스 – MIT.

---

링크

• 웹사이트: https://openappa.com
• 논문: https://arxiv.org/abs/2607.24625
• Discord 커뮤니티: https://discord.gg/B5fmSxHKZ7
• Bench‑Corp 데이터: https://github.com/archestra-ai/OpenAPPA/tree/main/bench/corp