OpenAI, 한국어 악성코드 개발 작전 차단

OpenAI는 한국어 운영자들이 악성코드 및 명령 및 제어(C2) 개발에 사용한 ChatGPT 계정 클러스터를 식별하고 차단했습니다. 이 조치는 AI를 사이버 작전에 활용하려는 조직적인 시도를 방해하지만, OpenAI는 모델이 공개된 기능을 넘어선 능력을 제공했다는 증거를 찾지 못했습니다.

위협 행위자 식별 및 귀속

OpenAI는 남한 외교 사절단을 대상으로 한 스피어 피싱 캠페인, XenoRAT 악성코드 배포, 그리고 C2를 위한 GitHub 기반 저장소 사용과 관련된 Trellix 보고서와 활동이 겹치는 계정 클러스터를 관찰했습니다.

관찰된 활동—한국어 사용, 운영 주제, UTC+8 및 UTC+9 시간대에 맞춘 활동—은 북한(DPRK) 행위자에 대한 보안 커뮤니티의 이해와 일치하지만, OpenAI는 독립적으로 귀속을 판단할 수 없으며 북한에 대한 서비스 차단을 유지하고 있습니다.

관찰된 악의적 행동

운영자들은 여러 계정이 짧은 시간 창에서 활성화되는 구조화된 워크플로를 사용했으며, 각 계정은 여러 영역을 포괄하기보다 특정 기술 사용 사례에 집중했습니다. 주요 행동은 다음과 같습니다:

• 인프라 및 플랫폼 실험: 행위자들은 GDrive, pCloud, file.io 등 클라우드 스토리지 서비스에 대한 API 스크립팅 및 직접 링크 구축을 실험했으며, GitHub를 통한 원시 콘텐츠 검색 및 토큰 처리도 수행했습니다.
• 자격 증명 탈취 및 API 훅킹: 모델과의 상호작용은 Windows API 훅킹, DPAPI를 이용한 브라우저 자격 증명 및 쿠키 접근 워크플로, 그리고 reCAPTCHA 복제와 같은 유사 검증 페이지 생성에 초점을 맞추었습니다.
• 피싱 캠페인: 행위자들은 암호화폐, 정부 기관, 금융 서비스 제공자를 주제로 한 한국어 피싱 이메일을 작성했습니다.

기술 역량 및 모델 출력

위협 행위자들은 다섯 가지 주요 운영 영역을 지원하기 위해 모델 출력을 생성했습니다:

임플란트 및 RAT 개발

운영자들은 Remote Access Trojan(RAT) 개발을 지원하기 위해 반사형 DLL 로딩, 메모리 내 실행, Windows API 훅킹 기술을 탐구했습니다.

자격 증명 탈취

운영자들은 Chrome 및 Edge DPAPI 워크플로를 사용하여 브라우저 암호화 키, 쿠키, 저장된 비밀번호를 추출하는 스크립트를 생성, 수정, 디버깅했습니다.

피싱 및 유인

행위자들은 설득력 있는 로그인 페이지를 만들기 위해 HTML 난독화와 reCAPTCHA 프록시를 실험했으며, 암호화폐를 주제로 한 피싱 콘텐츠도 작성했습니다.

macOS 개발 스캐폴딩

요청은 Safari 및 Finder 확장 프로그램 개발과 샘플 App Store 개인정보 보호정책 생성에 초점을 맞추었습니다.

암호화폐 운영

운영자들은 모델을 사용해 API 호출 및 지갑 상호작용을 문제 해결했습니다.

영향 및 완화

OpenAI는 모든 관련 계정을 비활성화하고 파트너와 지표를 공유했습니다. OpenAI는 많은 요청이 합법적인 소프트웨어 디버깅이나 암호학 작업이 악의적인 목적으로 재사용되는 '이중 사용 활동의 회색 지대'에 해당한다고 언급했습니다. 특히, Trellix가 설명한 캠페인에서 사용된 악성 바이너리가 OpenAI 모델을 사용해 생성되었다는 증거는 발견되지 않았었습니다.