Doppel AI 防御システム: GPT-5 と o4-mini を使った脅威検知の自動化

Doppel は、OpenAI の GPT-5 と o4-mini モデルを活用して、ディープフェイクとなりすましサイトを自律的に検出、分類、削除する AI 駆動型防御システムを立ち上げました。このシステムは、アナリストの作業負荷を 80% 削減し、脅威処理能力を 3 倍にし、対応時間を時間から分に短縮することで、生成 AI がもたらす脅威の規模に対応します。

自動化された脅威検知と対応

Doppel のシステムは、従来の手動レビュープロセスをインターネット規模の攻撃に対抗できる LLM 駆動型パイプラインに置き換えます。攻撃者は今ではフィッシングキットとスプーフドドメインの無限のバリエーションをほぼ瞬時に生成できるため、Doppel は AI を使って意思決定を自動化し、被害が発生する前に狭い時間窓内で行動できるようにします。

LLM 駆動型検知パイプライン

Doppel は、毎日の何百万ものシグナルを処理するために、OpenAI モデルのマルチステージオーケストレーションを利用しています：

  • Signal Filtering: OpenAI o4-mini はヒューリスティクスとともに使用され、ノイズをフィルタリングし、何百万ものドメイン、URL、アカウントから構造化された特徴を抽出します。
  • Parallel Threat Confirmation: 複数の GPT-5 プロンプトが、ブランドの悪用、ソーシャルエンジニアリングのパターン、なりすましのリスクについてシグナルを分析します。
  • Threat Classification: RFT チューンされた o4-mini のバージョンが、これらの確認を統合して脅威を悪性、良性、または曖昧とラベル付けします。
  • Final Verification: 2 回目の GPT-5 パスが決定を検証し、自然言語での正当化を生成します。
  • Human Review: 信頼度が低いか矛盾する結果は人間のアナリストにルーティングされ、その判断はシステムにフィードバックされて今後の精度を向上させます。

強化ファインチューニング (RFT) を用いた一貫性の向上

曖昧な脅威に対する判断の不一致という問題を解決するため、Doppel は強化ファインチューニング (RFT) を導入しました。アナリストのデータをフィードバックソースとして使用することで、各分類決定がグレード付きの例となり、モデルが専門家の人間の判断を模倣するように訓練されます。

OpenAI の応用エンジニアリングチームと協力して、Doppel は精度と推論の質の両方に報酬を与えるグーダー関数を開発しました。このプロセスにより、複雑なエッジケースに直面しても、自動化されたシステムが一貫性と信頼性を保つことが保証されます。

オペレーショナルな透明性と信頼

自動化は透明性と組み合わされ、組織の信頼を確保します。すべての自動削除には、削除の具体的な理由を説明する AI 生成の正当化が含まれるようになりました。これにより、顧客はなぜそのアクションが取られたのかを即座に理解できるようになります。これは以前は手動のアナリスト介入が必要だった作業です。

パフォーマンス指標

GPT-5 と o4-mini パイプラインの導入により、以下の運用上の利益が得られました：

  • Analyst Workload: 80% 削減されました。
  • Response Time: 時間から分に短縮されました。
  • Threat Capacity: 3 倍になりました。
  • Automation Rate: ほとんどの脅威が今では自動的に分類されます。

フューチャー ロードマップ

フィッシングとなりすましドメインの処理を自動化した後、Doppel はこのフレームワークをソーシャルメディアや有料広告などの高分散チャネルにも拡張しています。今後の技術的マイルストーンには、RFT データセットを桁違いにスケールアップし、新しいグーダー戦略を試験し、パイプラインステージを統合するために上流の特徴抽出に GPT-5 を活用することが含まれます。

Sources