shepherd-agents/shepherd

해결하는 문제

Shepherd는 AI 에이전트가 작업을 수행할 수 있는 안전하고 감독되는 환경을 제공합니다. 에이전트가 생성한 변경 사항이 사용자가 명시적으로 검토하고 승인할 때까지 파일 시스템에 적용되지 않도록 함으로써 에이전트에 대한 '맹목적 신뢰' 문제를 해결합니다. 또한 지속적인 실행 추적을 통해 에이전트의 작업을 기록하고 되돌릴 수 있는 방법도 제공합니다.

작동 방식

Shepherd는 에이전트 실행을 검사 가능한 추적으로 기록하는 런타임 기반 역할을 합니다. 에이전트 출력이 작업 공간에 직접 기록되지 않고 별도 영역에 보관되는 '제안' 시스템을 사용합니다. 사용자는 이후 이러한 제안을 선택, 적용 또는 폐기할 수 있습니다.

보안을 보장하기 위해 Shepherd는 OS 수준 권한 강제(macOS의 Seatbelt, Linux의 Landlock)를 사용하여 에이전트의 권한을 제한합니다. 권한은 작업의 Python 함수 시그니처에서 직접 정의됩니다. 예를 들어, 저장소 핸들에 ReadOnly 또는 ReadWrite를 지정하면 에이전트가 네이티브 syscall 수준에서 실제로 수행할 수 있는 작업이 결정됩니다.

대상 독자

로컬 파일 및 저장소와 상호 작용하면서 엄격한 감독과 안전 보장이 필요한 AI 에이전트를 구축하는 개발자와 연구자를 위해 설계되었습니다.

주요 기능

• 되돌릴 수 있는 실행 추적: 에이전트 실행을 지속적이고 검사 가능한 기록으로 저장합니다.
• OS 수준 샌드박싱: macOS Seatbelt와 Linux Landlock을 통해 권한을 강제하여 무단 파일 시스템 액세스를 방지합니다.
• 검토 가능한 제안: 에이전트 출력은 '보류된 출력'으로 유지되며 작업 공간에 병합되기 전에 수동 승인이 필요합니다.
• 서명으로서의 권한: 함수 시그니처의 Python 유형 힌트를 사용하여 에이전트의 권한 범위를 정의합니다.