shepherd-agents/shepherd

解決する課題

Shepherdは、AIエージェントが作業を実行するための、安全で監視された環境を提供します。エージェントによる変更がユーザーによって明示的にレビューされ承認されるまで、ファイルシステムに適用されないようにすることで、エージェントへの「盲目的な信頼」という問題を解決します。また、永続的な実行トレースを通じて、エージェントのアクションを記録し、元に戻す方法も提供します。

仕組み

Shepherdは、エージェントの実行を検査可能なトレースとして記録するランタイム基盤として機能します。エージェントの出力がワークスペースに直接書き込まれるのではなく、別の領域に保持される「提案」システムを使用します。ユーザーはその後、これらの提案を選択、適用、または破棄できます。

セキュリティを確保するため、ShepherdはOSレベルの権限強制（macOSのSeatbelt、LinuxのLandlock）を使用して、エージェントの権限を制限します。権限はタスクのPython関数シグネチャで直接定義されます。例えば、リポジトリハンドルにReadOnlyまたはReadWriteを指定すると、エージェントがネイティブのsyscallレベルで実際に実行できる操作が決まります。

対象読者

ローカルファイルやリポジトリとやり取りしながら、厳格な監視と安全性の保証を必要とするAIエージェントを構築する開発者や研究者向けに設計されています。

主な特徴

• 可逆的な実行トレース: エージェントの実行を永続的で検査可能な記録として保存します。
• OSレベルのサンドボックス化: macOSのSeatbeltとLinuxのLandlockを介して権限を強制し、不正なファイルシステムアクセスを防ぎます。
• レビュー可能な提案: エージェントの出力は「保持された出力」として保持され、ワークスペースにマージされる前に手動で承認される必要があります。
• 権限としてのシグネチャ: 関数シグネチャのPython型ヒントを使用して、エージェントの権限範囲を定義します。