OpenAI, 러시아어 사용 악성코드 툴링 작전 차단

OpenAI는 러시아어를 사용하는 범죄 조직이 악성코드, 특히 원격 액세스 트로이목마(RAT)와 자격 증명 탈취 도구를 개발·정교화하기 위해 사용한 ChatGPT 계정들을 비활성화했습니다. 이 조치는 위협 행위자들이 모델을 활용해 악성 소프트웨어의 기술적 빌딩 블록을 프로토타입하는 작업 흐름을 차단합니다. 모델의 내장된 보호 장치가 악의적인 콘텐츠에 대한 직접 요청을 거부했음에도 불구하고 말이죠.

기술적 행동 및 방법론

위협 행위자들은 완전한 악성 페이로드 대신 “빌딩 블록” 코드를 생성하기 위해 ChatGPT를 사용했습니다. 모델이 악성코드 생성을 직접 요청하는 것을 거부했기 때문에, 운영자들은 저수준 기술 작업을 반복하여 플랫폼 외부에서 자체 악성 워크플로를 조립했습니다.

주요 기술 분야는 다음과 같습니다:

• 저수준 Windows 플랫폼 지식: 행위자들은 PE / Win32 API, DPAPI / AES GCM 쿠키 처리, 그리고 Chrome DevTools / CDP 자동화에 집중했습니다.
• 난독화 및 회피: 행위자들은 “crypter” 패턴을 위한 코드를 생성했으며, 여기에는 무의미한 시퀀스를 삽입하고 패딩 명령을 추가해 PE 서명을 변경하고 안티바이러스(AV) 또는 엔드포인트 탐지 및 대응(EDR) 시스템을 회피하는 것이 포함됩니다.
• 사후 침투 툴링: 운영자들은 모델을 사용해 클립보드 모니터링, 아카이브 및 전송 스크립트, 그리고 데이터 유출을 위한 Telegram 봇 업로더와 같은 구성 요소를 프로토타입했습니다.
• 운영 지원: 행위자들은 대량 비밀번호 생성 및 스크립트화된 구직 신청 등 일반적인 작업을 위해 모델을 활용했습니다.

악성코드 구성 요소 및 LLM ATT&CK 매핑

위협 행위자의 활동은 LLM ATT&CK 프레임워크에 매핑되어, 그들이 구축하려 시도한 구체적인 공격 역량을 분류했습니다:

활동	LLM ATT&CK 프레임워크 카테고리
EXE를 위치 독립형 쉘코드로 변환하고, 메모리 내 로더(VirtualAlloc / WriteProcessMemory / 원격 스레드)를 구축하며, 로더 툴체인을 위한 언어 변환 수행.	LLM-최적화 페이로드 제작
페이로드를 AV/EDR로부터 숨기기 위해 난독화/패커 레이어, crypter 및 crypter 기법을 삽입.	LLM-강화된 이상 탐지 회피
브라우저 자격 증명 및 쿠키를 추출/복호화하고, 지갑 LevelDB를 파싱하며, 클립보드 내용을 모니터링하거나 교체하고, Telegram 봇 채널을 통해 데이터를 유출하는 스크립트 생성.	LLM-지원 사후 침해 활동
리버스 프록시, SOCKS5 / OpenVPN 설정, 원격 데스크톱 터널링 등을 포함한 C2 및 터널링 인프라 구축 및 정교화.	LLM-지원 인프라 프로파일링

작전의 범위 및 영향

OpenAI는 이 활동과 연관된 모든 계정을 비활성화했으며, 지표를 산업 파트너와 공유했습니다. 조사 결과 모델의 보호 장치가 익스플로잇 및 키로거에 대한 직접 요청을 성공적으로 차단한 것으로 나타났습니다.

OpenAI는 ChatGPT에 대한 접근이 이 행위자들에게 “다수의 공개 자료로는 얻을 수 없었던 새로운 역량이나 방향을 제공하지 않았다”고 결론 내렸습니다.

행위자 귀속

OpenAI는 이 활동이 다수의 계정, 프록시 및 일시적인 호스팅 인프라를 사용하는 러시아어 운영자에 의해 관리되었으며, 러시아어 사용 범죄 그룹 전용 Telegram 채널에 활동 증거를 게시한 것으로 평가합니다.