Doppel AI 방어 시스템: GPT-5와 o4-mini를 활용한 위협 탐지 자동화

Doppel은 OpenAI의 GPT-5와 o4-mini 모델을 활용하여 딥페이크와 위장 사이트를 자율적으로 탐지, 분류, 제거하는 AI 기반 방어 시스템을 출시했습니다. 이 시스템은 분석가의 업무량을 80% 줄이고, 위협 처리 용량을 3배로 늘리며, 응답 시간을 시간에서 분으로 단축함으로써 생성형 AI 기반 위협의 규모를 해결합니다.

자동화된 위협 탐지 및 대응

Doppel의 시스템은 인터넷 규모의 공격을 방어할 수 있는 LLM 기반 파이프라인으로 전통적인 수동 검토 프로세스를 대체합니다. 공격자는 이제 피싱 키트와 스푸핑된 도메인의 무한한 변형을 거의 즉시 생성할 수 있으므로, Doppel은 피해가 발생하기 전에 좁은 창 내에서 행동할 수 있도록 AI를 사용하여 의사 결정을 자동화합니다.

LLM 기반 탐지 파이프라인

Doppel은 매일 수백만 개의 신호를 처리하기 위해 OpenAI 모델의 다단계 오케스트레이션을 활용합니다:

• Signal Filtering: OpenAI o4-mini은 휴리스틱과 함께 사용되어 노이즈를 필터링하고 수백만 개의 도메인, URL, 계정에서 구조화된 기능을 추출합니다.
• Parallel Threat Confirmation: 여러 개의 GPT-5 프롬프트가 브랜드 오용, 사회 공학 패턴, 위장 위험을 탐지하기 위해 신호를 분석합니다.
• Threat Classification: RFT 튜닝된 o4-mini 버전이 이러한 확인을 통합하여 위협을 악성, 양성, 또는 애매모호로 라벨링합니다.
• Final Verification: 두 번째 GPT-5 패스가 결정을 검증하고 자연어 설명을 생성합니다.
• Human Review: 낮은 신뢰도 또는 충돌하는 결과는 인간 분석가로 라우팅되며, 그들의 결정은 시스템에 피드백되어 미래 정확도를 향상시킵니다.

강화 학습 미세 조정(RFT)을 통한 일관성 향상

애매모호한 위협에 대한 일관되지 않은 판단 문제를 해결하기 위해 Doppel은 강화 학습 미세 조정(RFT)을 구현했습니다. 분석가 데이터를 피드백 소스로 사용함으로써 각 분류 결정이 전문가 인간 판단을 복제하도록 모델을 훈련시키는 등급이 매겨진 예시가 되었습니다.

OpenAI의 적용 엔지니어링 팀과 협력하여 Doppel은 정확성과 추론의 품질에 대해 모델에 보상을 주는 grader 함수를 개발했습니다. 이 프로세스는 복잡한 경계 사례에 직면하더라도 자동화된 시스템이 일관되고 신뢰할 수 있도록 보장합니다.

운영 투명성과 신뢰

조직 신뢰를 보장하기 위해 자동화는 투명성과 결합됩니다. 이제 모든 자동화된 삭제에는 제거의 구체적인 이유를 설명하는 AI 생성 정당화가 포함됩니다.これにより、 고객은 이전에 수동 분석가 개입이 필요했던 작업과 비교하여 즉시 조치가 취해진 이유에 대한 통찰을 얻을 수 있습니다.

성능 지표

GPT-5와 o4-mini 파이프라인의 구현으로 다음과 같은 운영상의 성과가 달성되었습니다:

• Analyst Workload: 분석가 업무량이 80% 감소했습니다.
• Response Time: 응답 시간이 시간에서 분으로 감소했습니다.
• Threat Capacity: 위협 처리 용량이 3배로 증가했습니다.
• Automation Rate: 대부분의 위협이 이제 자동으로 분류됩니다.

미래 로드맵

피싱 및 위장 도메인 처리를 자동화한 후, Doppel은 소셜 미디어 및 유료 광고와 같은 고변동 채널을 포함한 다른 영역으로 이 프레임워크를 확장하고 있습니다. 미래 기술적 마일스톤에는 RFT 데이터셋을 10배 규모로 확장하고, 새로운 grading 전략을 실험하며, 파이프라인 단계를 통합하기 위해 상류 특성 추출에 GPT-5를 활용하는 것이 포함됩니다.