FailproofAI/failproofai

해결하는 문제

FailproofAI는 AI 에이전트를 위한 관측 가능성(observability)과 시행(enforcement)을 제공합니다. 에이전트가 재귀적 파일 삭제, sudo를 통한 권한 상승, 마스터 브랜치로의 직접 푸시와 같은 위험한 도구 호출을 실행하기 전에 차단합니다. 또한 로컬 대시보드와 감사 도구를 제공하여 모델 호출과 도구 사용을 추적함으로써 '블랙박스' 에이전트 실행 문제를 해결합니다.

작동 방식

Failproof는 Claude Code 및 GitHub Copilot CLI와 같은 코딩 CLI와 Hermes 및 OpenClaw와 같은 채팅 게이트웨이를 포함한 12가지 서로 다른 에이전트 하네스에 연결됩니다. 각 작업이 일련의 규칙에 대해 평가되는 정책 기반 시스템을 사용합니다. 정책은 allow()(작업 허용), deny(message)(차단 및 에이전트에 알림), instruct(message)(에이전트의 다음 프롬프트에 추가 컨텍스트 제공)의 세 가지 결정 중 하나를 반환할 수 있습니다. 지원되는 하네스가 없는 에이전트의 경우 보고 및 추적을 위한 Python SDK를 사용할 수 있습니다.

대상 사용자

AI 코딩 에이전트 또는 자체 호스팅 어시스턴트를 사용하는 개발자 및 팀으로, 이러한 에이전트가 안전한 경계 내에서 작동하고 전체 감사 추적을 유지하도록 해야 하는 경우에 적합합니다.

주요 기능

• 광범위한 하네스 지원: Claude Code, Cursor Agent, Devin CLI를 포함한 12가지 주요 에이전트 환경에 연결됩니다.
• 실행 전 차단: 위험한 도구 호출을 사후에 보고하는 대신 실행 전에 중지합니다.
• 내장 가드레일: 비밀 파일 보호, SQL 안전, 인프라 변경을 다루는 40개의 내장 정책을 포함합니다.
• 로컬 우선 관측 가능성: 계정이나 외부 데이터 전송이 필요 없는 로컬 대시보드(localhost:8020)와 오프라인 감사 도구를 제공합니다.
• 사용자 정의 가능한 정책: 사용자가 JavaScript로 자신만의 정책을 작성하고 팀 전체 시행을 위해 저장소에 커밋할 수 있습니다.

요약

AI 에이전트 하네스에 연결하여 위험한 도구 호출을 차단하고 상세한 실행 추적을 제공하는 관측 가능성 및 시행 프레임워크입니다.

제목

여러 하네스에서 위험한 AI 에이전트 도구 호출을 차단하는 관측 가능성 및 시행 계층