devchilll/scope

解決する課題

SCOPEは、銀行などの高リスク・ミッションクリティカルな環境で動作するエンタープライズAIエージェント向けに設計されたガバナンスフレームワークです。安全性、規制コンプライアンス、監査可能性が不可欠です。LLMへの安全でない入力の到達を防ぎ、エージェントのアクションが承認され記録されることを保証します。

仕組み

GoogleのAgent Development Kit (ADK) 上に構築されたSCOPEは、「多層防御」アーキテクチャを5つの主要な柱にわたって採用しています：

1. 安全性：高速なMLベースのモデル前ゲート（例：toxic-bert）を使用して、安全でないリクエストをLLMに到達する前に約50ミリ秒でブロックし、LLMベースのコンテキストチェックで補完します。
2. コンプライアンス：人間が読めるビジネスおよび規制ルール（例：PCI-DSS、HIPAA）を強制し、エージェントはすべての決定でこれらを参照する必要があります。
3. 権限 (IAM)：ロールベースのアクセス制御（USER、STAFF、ADMIN）を実装し、ユーザーとエージェントが承認されたデータとツールにのみアクセスできるようにします。
4. エスカレーション：低信頼度の決定や高リスクなアクション（例：大口資金送金）を、SQLiteを介してヒューマンインザループのレビューキューにルーティングします。
5. 可観測性：すべてのインタラクションとツール呼び出しについて、詳細な監査証跡とコンプライアンス固有のログ（SOC2、PCI-DSS）を維持します。

対象者

金融、医療、法律などの規制業界でAIエージェントを展開するエンタープライズ開発者と組織で、本番対応の安全性と監視レイヤーを必要とする方々。

ハイライト

• LLM前ガードレール：モデルが呼び出される前に有害または安全でないコンテンツをブロックし、コストを削減し安全性を向上させます。
• ポリシー・アズ・コード：コンプライアンスルールをYAMLまたはPythonで定義し、エージェントが推論で引用できるようにします。
• 詳細なIAM：ツール実行に直接アイデンティティ管理を統合し、不正なデータアクセスを防ぎます。
• ヒューマンインザループ：複雑または高価値のケース向けの組み込みエスカレーションプロトコル。
• 規制ログ：PCI-DSSおよびSOC2コンプライアンス向けの専門ログモジュール。