SponsioLabs/Sponsio
Deterministic safety solutions for probabilistic AI agents
解決する課題
Sponsioは、「エージェント・コントラクト」と呼ばれる決定論的な実行時ルールを適用することで、AIエージェントが本番用データベースの削除や詐欺行為などの危険な、あるいは意図しないアクションを実行するのを防ぎます。これは、LLMが「不正」を行ったり、ハルシネーションを起こしたり、制約を無視したりする可能性がある信頼性とセキュリティのギャップに対処するものであり、低速で高コストなLLM-as-judge型のガードレールに代わる高性能な選択肢を提供します。
仕組み
Sponsioは、形式手法に裏打ちされたロジックチェッカーを使用して、エージェントのアクションをリアルタイムで監視します。自然言語のルールや定義済みのパターンライブラリを、決定論的なコントラクト（仮定 $ ightarrow$ 執行）にコンパイルします。エージェントが関数呼び出しを試みると、Fuzzy LTL Monitorがこれらのコントラクトに照らしてアクションをチェックし、呼び出しを許可、ブロック、警告、エスカレーション、またはリダイレクトするかを決定します。このプロセスは、執行フェーズ中にLLM呼び出しを一切行わず、0.01 ms未満で実行されるため、プロンプトベースのフィルターよりも大幅に高速です。
対象者
LangChain、CrewAI、Vercel AIなどのフレームワークを使用してAIエージェントを構築している開発者、またはPythonやTypeScriptでカスタムのツール呼び出しループを構築しており、エージェントのアクションに対して保証された安全境界と監査証跡を必要としている開発者。
ハイライト
- 極めて高いパフォーマンス: ロジックチェックはわずか0.0052 msで実行され、LLMベースのガードレールよりも数千倍高速です。
- 決定論的な執行: 形式手法を使用して、LLMの確率的な性質に頼ることなくルールが遵守されることを保証します。
- プラグ・アンド・プレイ・バンドル: 一般的な失敗クラスから保護するために、16個の事前構築済みコントラクトバンドル（例：シェルやファイルシステムへのアクセス用）が含まれています。
- 幅広い統合: 主要なエージェントフレームワークと互換性があり、PythonとTypeScriptの両方をサポートしています。