OpenAI Operation No Bell 사례 연구

Operation No Bell: 아프리카를 겨냥한 AI 기반 영향력 행사 작전

OpenAI는 미국과 그 동맹국을 비판하는 장문의 기사와 소셜 미디어 콘텐츠를 생성하기 위해 생성형 AI를 사용한, 러시아 기반의 영향력 행사 작전인 "Operation No Bell"과 관련된 ChatGPT 계정을 차단했습니다. 이 작전은 사하라 이남 아프리카의 지정학에 초점을 맞추었으며, 가짜 학자 페르소나와 용도가 변경된 소셜 미디어 페이지를 활용하여 주류 뉴스 매체에 허위 정보를 심었습니다.

행위자 및 기원

이 작전은 러시아에서 시작된 것으로 보이며, Meta로부터 받은 단서를 통해 조사가 시작되었습니다. "No Bell"이라는 이름은 ChatGPT 사용자가 모델에게 앙골라 대통령이 노벨 평화상을 받도록 옹호하라고 명시적으로 지시한 특정 사례에서 유래했으며, 그 목표는 도널드 트럼프 미국 대통령 팀을 적대시하는 것이라고 밝혔습니다.

콘텐츠 생성 및 배포 전술

Operation No Bell은 탐지를 피하고 콘텐츠의 신뢰성을 높이기 위해 여러 기술적 및 사회 공학적 전술을 사용했습니다:

가짜 페르소나 사용

많은 장문의 기사가 "Dr. Manuel Godsin"이라는 필명으로 게시되었는데, 그는 베르겐 대학교의 박사 학위 소지자이자 "국제 정치 및 전략 연구 센터"의 직원이라고 주장되었습니다. OpenAI의 조사 결과 노르웨이 국가 연구 정보 저장소(NVA)나 베르겐 대학교 도서관에서 그러한 인물에 대한 기록은 발견되지 않았습니다. 추가 조사 결과 Godsin의 사진은 실제로는 2010년대 상트페테르부르크 법대생의 사진인 것으로 밝혀졌습니다.

AI 탐지 회피

텍스트가 AI에 의해 생성되었다는 사실을 숨기기 위해 운영자는 다음과 같은 특정 프롬프트 기법을 사용했습니다:

  • 문체 제약: 사용자는 모델에게 인간 기자의 스타일로 글을 쓰도록 지시했습니다.
  • 서식 제거: 사용자는 AI 생성 텍스트의 일반적인 표식인 엠대시(em-dash)를 제거해 달라고 특별히 요청했습니다. 가나에서 게시된 한 기사에서는 원래 AI가 생성한 텍스트에서 엠대시가 수동으로 제거되어 문장이 깨진 사례가 발견되었습니다.

플랫폼 간 조정

이 작전은 여러 AI 도구와 플랫폼을 활용했습니다:

  • Facebook 페이지: 남아프리카 공화국, 가나, 케냐, 앙골라의 뉴스 매체로 위장한 Facebook 페이지에 콘텐츠가 게시되었습니다. 일부 페이지는 인수 후 용도가 변경되었습니다. 예를 들어, "Kenya Watchtower"는 이전에 "Farmtown5"라는 이름이었습니다.
  • 다중 LLM 사용: 사용자는 다양한 모델을 실험하며 Gemini를 위한 이미지 프롬프트를 요청하고, Facebook 배너로 사용하기 위해 Gemini가 생성한 것으로 보이는 이미지를 수정하도록 ChatGPT에 요청했습니다.

주제별 초점 및 서사 목표

생성된 콘텐츠는 주로 러시아를 찬양하고 우크라이나, 영국, 미국을 비판했습니다. 주요 서사는 다음과 같습니다:

  • 지정학적 비판: 기사들은 중앙아프리카공화국 내 러시아의 존재를 찬양하고 서방 지도자들이 허위 정보로 남아프리카 공화국을 표적으로 삼고 있다고 비난했습니다.
  • 지역적 문제: 이 작전은 독일 무기 제조업체인 Rheinmetall이 남아프리카 공화국 자회사를 통해 수출 통제를 우회하고 있다고 비난하거나, 영국 NGO인 Crisis Action이 남아프리카 공화국 내 시위를 선동하고 있다고 비난하는 등 특정 단체를 표적으로 삼았습니다.
  • 개인 공격: 일부 콘텐츠는 볼로디미르 젤렌스키 우크라이나 대통령이나 도널드 트럼프 미국 대통령을 구체적으로 겨냥했습니다.

영향 평가

이 작전은 소셜 미디어에서 제한적인 도달 범위(한 페이지는 Meta에 의해 차단되기 전까지 3,000명의 팔로워만 확보함)를 보였지만, 주류 뉴스 웹사이트에 기사를 심는 데는 더 성공적이었습니다.

OpenAI는 브루킹스 연구소의 영향력 행사 작전용 브레이크아웃 척도(1에서 6까지 범위)를 사용하여 Operation No Bell을 카테고리 4의 하위 수준으로 평가했으며, 이는 해당 작전이 주류 미디어로 성공적으로 진출했음을 나타냅니다.

Sources