agentcontrol/agent-control

何を解決するか

Agent Control は、AIエージェントの実行時ガードレールを強制するための中央集権的なレイヤーを提供します。開発者がエージェントのコアコードやプロンプトに安全ロジックをハードコードする必要なく、プロンプトインジェクション、PII（個人識別情報）の漏洩、危険なツール呼び出しなどのリスクを防止できます。

動作方法

このシステムはサーバーとSDKから構成されています。開発者はモデルまたはツール呼び出しに @control() デコレータをラップします。実行時にSDKは入力と出力をAgent Controlサーバーに送信し、設定可能なルール（コントロール）に基づいて評価します。ルール違反が検出された場合、システムはアクションをブロックし、ControlViolationError をスローします。

対象ユーザー

LangChain、CrewAI、Google ADK、AWS Strandsなどのフレームワークを使用してAIエージェントを開発している開発者向けです。複数のエージェントにわたる安全ポリシーを1つのダッシュボードまたはAPIから管理したい方におすすめです。

特徴

• 中央集権的管理: エージェントコードの再デプロイなしに、UIまたはAPIで安全コントロールを定義・更新可能。
• プラグ可能評価器: 正規表現、リスト、JSON、SQL用の組み込み評価器を備え、カスタム評価器もサポート。
• フレームワーク非依存: 複数のエージェントフレームワークと互換性があり、PythonおよびTypeScript SDKをサポート。
• 観測性: OpenTelemetryおよびカスタムイベントシンクとの統合により、コントロール実行の追跡が可能。