OpenAI 작전 제로 제노: 이스라엘 연계 영향 활동

AI 기반 콘텐츠 생성 및 페르소나 구축

• 콘텐츠 생성: 웹 기사와 소셜 미디어 댓글을 X, Facebook, Instagram, YouTube 전반에 걸쳐 생성합니다.
• 페르소나 개발: 연령, 성별, 위치와 같은 변수에 기반한 허구의 바이오와 페르소나를 생성합니다.
• 연구 시도: 모델을 사용해 이스라엘에서 히스타드루트 노동조합에 공개적으로 댓글을 단 개인들을 조사했습니다. OpenAI는 모델이 이러한 프롬프트에 대해 개인 정보를 제공하는 것을 거부했다고 밝혔습니다.
• 시각적 정체성: 생성적 적대 신경망(GAN)을 활용해 프로필 사진을 만들었습니다. OpenAI는 여러 계정이 동일한 GAN 생성 이미지를 공유하고, 경우에 따라 동일한 사진을 가진 여러 계정이 같은 게시물에 답글을 달았다고 관찰했습니다.

범위 및 주제별 캠페인

• 가자와 종교 관계: 대부분의 캠페인은 가자 분쟁과 유대인 및 무슬림 신앙 간 관계에 초점을 맞추었습니다.
• 캐나다: 콘텐츠는 캠페인이 "급진적 이슬람주의자"라고 묘사한 캐나다 내 인물들을 비판했습니다.
• 미국: 활동은 대학에 초점을 맞추었으며, 친팔레스타인 시위자들이 테러와 반유대주의를 조장한다고 비난했습니다.
• 카타르: 서사는 카타르의 미국 투자들을 미국 생활 방식에 대한 위협으로 묘사했습니다.
• 이스라엘: 히브리어 게시물은 히스타드루트 노동조합의 리더십과 조직을 찬양했습니다.
• 인도: 5월에 네트워크는 집권 BJP 정당을 비판하고 야당 인도 국민회의를 찬양하는 댓글을 생성했습니다. OpenAI는 이 특정 활동을 시작 후 24시간 이내에 차단했습니다.
• UNRWA: 초기 연구에서 네트워크가 팔레스타인 UN 구호 기관을 비판하는 것을 확인했습니다.

배포 전략 및 전술

• 다중 플랫폼 배포: 콘텐츠는 활동가 그룹으로 가장한 네 개의 웹사이트에 게시되었습니다: uc4canada.com, the-good-samaritan.com, ufnews.io, nonagenda.com.
• 인공 증폭: 가짜 계정을 사용해 작전 자체 게시물에 댓글을 달아 청중 참여의 허위 인상을 만들었습니다.
• 주제 전환: 일부 계정은 다른 지역 캠페인으로 초점을 이동했습니다(예: 캐나다 중심 콘텐츠에서 인도 또는 미국으로 이동).
• 무관한 참여: 네트워크는 원본 게시물과 무관한 서구 유명 인물들에게 AI 생성 답글을 달았습니다. 예를 들어, 도널드 트럼프의 음악 취향에 관한 게시물에 카타르 투자에 대한 답글을 달았습니다.

영향 평가

Operation Zero Zeno는 Breakout Scale에서 카테고리 2 작전으로 분류되며, 이는 여러 플랫폼과 웹사이트에서 활동했지만 유기적 사용자에 의한 큰 증폭을 달성하지 못했음을 의미합니다. OpenAI는 이 활동이 자체 비진정성 계정을 제외하고 거의 참여를 끌어내지 못했다고 보고합니다. 예를 들어, 캐나다 캠페인과 연관된 YouTube 채널은 2024년 4월 25일 기준으로 조회수가 0인 동영상 하나만 게시했습니다.