responsibleai/ASSERT

解決する課題

ASSERTは、高レベルの製品要件（ポリシー、システムプロンプト、リリース基準）とAIシステムの実際の評価の間にあるギャップを埋めます。一般的なベンチマークや手動テストケースに頼るのではなく、ASSERTは自然言語仕様を実行可能な構造化評価に変換し、AIエージェントが意図した通りに振る舞うことを保証します。

動作方法

ASSERTは、自然言語仕様を行動カテゴリに変換し、単ターンおよびマルチターンのテストケースを生成し、ターゲットAIシステムに対して実行するパイプラインを使用します。その後、LLMジャッジが提供されたポリシーに基づいて会話のスコアを付けます。

主な技術的要素は以下の通りです：

• トレース認識型判断：OpenInferenceおよびOpenTelemetryと統合し、スパン（ツール呼び出し、ルーティング、レイテンシ）をキャプチャすることで、ジャッジがエージェントの内部プロセスからの具体的な証拠を引用できるようにします。最終出力だけでなく、内部プロセスの詳細も評価対象となります。
• サンドボックス実行：Dockerサンドボックスを提供し、危険なエージェント行動を安全にテスト可能にします。ツール呼び出しをモックまたはブロックし、直接のインターネットアクセスを拒否します。
• LLMアシスタントの活用：MCP（Model Context Protocol）サーバーを通じて「ガイド付き」体験を提供し、コードアシスタント（Claude CodeやCursorなど）がリスクを発見し、評価設定を記述し、パイプラインを実行できるようにします。
• ACS（エージェント制御仕様）：実際の失敗からデプロイ可能なポリシーを生成し、エージェントを管理するものとして、その後再評価を実行して失敗率の低下を証明します。

対象ユーザー

AIエージェントやマルチエージェントシステムを開発・構築する開発者やAIセーフティエンジニア向けです。ポリシードキュメントからCI/CDパイプライン内の測定可能でレグレッションテスト可能なセーフティゲートへ移行する必要がある方々に最適です。

特徴

• 仕様駆動のカバレッジ：一般的なベンチマークではなく、製品要件から直接テストケースを生成します。
• フレームワーク非依存：LiteLLMを介して任意のモデルエンドポイント、OpenInferenceを介して任意のエージェントフレームワーク（LangGraph、CrewAI、AutoGenなど）をサポートします。
• カスタマイズされた行動ライブラリ：セーフティ、バイアス、公平性のための原子的行動プリセットのカタログを含みます。
• ローカル優先のアーティファクト：すべての結果をローカルのJSON/JSONLファイルに書き出し、並列実行比較用にバンドルされたビューアーを提供します。