OpenAI, '데이터 센터 열풍' 영향 작전 차단

OpenAI는 미국을 표적으로 하는 은밀한 영향 작전을 수행한 사설 중국 기술 회사와 연계된 ChatGPT 계정 클러스터를 차단했습니다. 이 행위자들은 ChatGPT를 이용해 기만적인 소셜 미디어 콘텐츠를 생성하고, 가짜 인물을 만들며, X와 Facebook과 같은 플랫폼에서 탐지를 피하기 위한 운영 전략을 개발했습니다.

중국 연계 행위자 및 운영 방법

이 영향 작전은 중국에서 시작된 것으로 추정되는 계정 클러스터에 의해 수행되었으며, VPN을 통해 지역 접근 제한을 우회했습니다. 행위자들은 지방 정부 고객을 위해 일하는 사설 중국 기술 회사의 소셜 미디어 운영 팀에 속한 것으로 보이며, 공공 여론 지도에서 중국 당국의 우선순위를 지원하는 상업 생태계와 맞물려 있습니다.

주요 운영 세부 사항은 다음과 같습니다:

• Persona Fabrication: 행위자들은 학생, 어머니, 사무원, 투자자 등 다양한 배경의 미국인으로 가장하여 자연스러운 미국 기반 사용자처럼 보이도록 했습니다.
• Language Usage: 프롬프트는 간체 중국어로 제출되었으며, 출력은 영어와 중국어 모두로 요청되었습니다.
• Workflow Automation: ChatGPT를 사용해 로그인 자동화 및 여러 소셜 미디어 플랫폼에서의 상호작용 관리를 위한 코드를 작성했으며, 사용자 이름 추출 및 워크시트용 데이터 포맷팅과 같은 텍스트 처리 작업에도 활용되었습니다.

목표 서사 및 영향 전술

이 캠페인은 공공 여론을 조작하기 위해 설계된 서로 다른 서사를 가진 두 주요 청중을 목표로 했습니다:

미국 기반 청중

행위자들은 AI 애플리케이션과 데이터 센터가 전력 수요를 증가시키고 일반 미국 가정의 비용을 상승시키고 있다는 주장을 담은 영어 댓글과 이미지를 생성했습니다. 여기에는 다음이 포함됩니다:

• Contextualized Misinformation: 전력망 용량 경매에 관한 정당한 지역 뉴스 보도를 이용해 AI 기반 전력 수요를 전기 요금 상승의 원인으로 제시했습니다.
• Visual Manipulation: ChatGPT를 사용해 일반 전기 시장 이미지를 편집하고 텍스트를 추가해 일반인이 AI 인프라를 보조하고 있다는 서사를 뒷받침했습니다.
• Social Media Distribution: #capacityauction, #datacentersuccess, #datacenters와 같은 해시태그를 사용해 X에 콘텐츠를 게시했습니다.

해외 중국인 및 반체제 인사

이 작전은 Li Ying(Teacher Li), Lu Yiheng, Xu Chi, 그리고 X 계정 @SydneyDaddy1 등 중국 반체제 인사와 정치 논평가들을 괴롭히려 했습니다. 행위자들이 ChatGPT를 이용해 Li Ying 팀을 향한 모욕적인 댓글을 생성하려 했지만, OpenAI 모델은 이러한 선동적인 인신 공격을 생성하는 것을 거부했습니다.

플랫폼 회피 및 전략 기획

행위자들은 ChatGPT를 사용해 장기 계정 유지와 플랫폼 탐지 시스템 회피를 위한 전략을 상세히 기술한 작업 보고서를 다듬었습니다. 그들의 운영 보안은 다음에 초점을 맞추었습니다:

• Persona Development: Facebook에서 행위자들은 생활 및 직업 관련 콘텐츠를 활용해 "실제적이고 신뢰할 수 있으며 일상적인 인물"을 구축하고 브랜드를 만든 뒤 서사를 확대하는 데 중점을 두었습니다.
• Organic Engagement Simulation: 교차 계정 상호작용을 이용해 유기적인 참여를 시뮬레이션함으로써 진정성 있는 모습을 유지했습니다.
• Facebook Ecosystem Analysis: 이 그룹은 Facebook의 그룹, 페이지, 해시태그, 광고 도구 및 추천 시스템을 분석해 유기적 참여와 유료 Facebook 광고를 결합한 "이중 트랙 접근법"을 구현했습니다.
• Risk Mitigation: 백업 계정을 만들고 운영 활동을 분리해 플랫폼 보안 시스템이 조정된 행동을 탐지하는 것을 방지했습니다.