brexhq/CrabTrap

何を解決するか

CrabTrap は、外部 API とやり取りする AI エージェントのセキュリティガードレールを提供します。HTTP/HTTPS トラフィックを傍受し、インターネットに到達する前に、セキュリティポリシーに従って評価することで、不正または危険なアウトバウンドリクエストを防止します。

動作方法

CrabTrap は、AI エージェントと外部世界の間に位置するフォワードプロキシとして動作します。TLS終端により HTTPS トラフィックを復号し、2段階の評価プロセスを適用します：

1. 静的ルール: まず、URL パターン（プレフィックス、正確一致、ワイルドカード）に一致するかを決定論的に行います。一致した場合、即座に許可または拒否されます。
2. LLMジャッジ: 静的ルールに一致しない場合、自然言語で定義されたエージェント固有のセキュリティポリシーに従って、LLMベースのジャッジにリクエストを送信して評価されます。

すべての判断、リクエスト、応答は PostgreSQL データベースにログとして記録され、監査が可能になります。また、プライベートネットワークへのリクエストをブロックする SSRF保護と、LLMの障害に対応するサーキットブレーカーも搭載されています。

対象ユーザー

Slack、Gmail、GitHub などの外部サービスを呼び出す AI エージェントを展開し、セキュリティポリシーの強制とアウトバウンドトラフィックの監査を検証可能な方法で行いたい開発者や組織です。

特徴

• 2段階評価: 高速な決定論的ルールと柔軟な自然言語による LLM ポリシーを組み合わせます。
• HTTPS 透過的傍受: 自動 TLS 証明書生成を備えた透明な MITM プロキシ。
• SSRF保護: プライベートネットワークへのリクエストや DNS リバインディング攻撃を防止する内蔵機能。
• ポリシー構築ツール: トラフィックパターンを分析して自動的にセキュリティポリシーを草案するエージェントループ。
• 監査と評価: PostgreSQL に完全な監査ログを記録し、過去のログを再実行してポリシーの正確性をテストする仕組み。