Doppel AI 防御系统：使用 GPT-5 和 o4-mini 自动化威胁检测

Doppel 已推出一个由 AI 驱动的防御系统，利用 OpenAI 的 GPT-5 和 o4-mini 模型自主检测、分类和删除深度伪造和冒充网站。该系统通过将分析师工作量降低 80%、威胁处理能力提升三倍以及将响应时间从小时缩短到分钟，应对了由生成式 AI 驱动的威胁规模。

自动化威胁检测与响应

Doppel 的系统用由 LLM 驱动的流水线取代传统的人工审核流程，以互联网规模对抗攻击。由于攻击者现在几乎可以瞬间生成无限变种的钓鱼工具包和欺骗域名，Doppel 使用 AI 自动化决策，以在损害发生前的狭窄时间窗口内采取行动。

LLM 驱动的检测流水线

Doppel 利用 OpenAI 模型的多阶段编排来处理每日数百万个信号：

  • Signal Filtering: OpenAI o4-mini 与启发式方法结合使用，以过滤噪声并从数百万个域名、URL 和账户中提取结构化特征。
  • Parallel Threat Confirmation: 多个 GPT-5 提示分析信息以检测品牌滥用、社会工程学模式和冒充风险。
  • Threat Classification: 经过 RFT 调优的 o4-mini 版本综合这些确认结果，将威胁标记为恶意、良性或模糊。
  • Final Verification: 第二次 GPT-5 传递验证决策并生成自然语言的依据。
  • Human Review: 低置信度或冲突的结果会被路由到人工分析师，他们的决策随后会反馈到系统中以提高未来的准确性。

通过强化微调 (RFT) 提高一致性

为了解决对模糊威胁判断不一致的问题，Doppel 实施了强化微调 (RFT)。通过将分析师数据作为反馈来源，每个分类决策成为一个分级示例，用于训练模型复制专家的人类判断。

与 OpenAI 的应用工程团队合作，Doppel 开发了评分函数，以奖励模型在准确性和推理质量两方面的表现。此过程确保即使面对复杂的边缘情况，自动化系统仍能保持一致和可靠。

运营透明度与信任

自动化与透明度相结合，以确保组织信任。每次自动下架现在都包含一个 AI 生成的依据，解释删除背后的具体原因。这为客户提供了即时的洞察，以了解为何采取该行动——以前这需要人工分析师的干预。

性能指标

GPT-5 和 o4-mini 流水线的实施带来了以下运营收益：

  • Analyst Workload: 降低了 80%。
  • Response Time: 从小时缩短到分钟。
  • Threat Capacity: 提升了三倍。
  • Automation Rate: 大多数威胁现在已自动分类。

未来路线图

在自动化处理钓鱼和冒充域名之后，Doppel 正将此框架扩展到其他高方差渠道，包括社交媒体和付费广告。未来的技术里程碑包括将 RFT 数据集规模扩大一个数量级，尝试新的评分策略，以及利用 GPT-5 进行上游特征提取以合并流水线阶段。

Sources