OpenAI, 'Corrupt Comment' 영향 작전 차단

OpenAI는 'Corrupt Comment'라고 명명된 영향 작전과 연관된 API 활동 클러스터를 차단했습니다. 이 작전은 OpenAI 모델을 사용해 X(구 Twitter)에서 영어 댓글을 생성하여 고(故) 알렉세이 나발니가 설립한 반부패 재단(FBK)과 그 지도부를 비판했습니다.

작전 메커니즘 및 행동

"Corrupt Comment" 작전은 OpenAI API를 활용해 영어 텍스트를 생성하고, 이를 가짜 X 계정이 게시했습니다. 이 계정들은 주로 반부패 재단의 고위 인물과 나발니의 연관 인물을 겨냥했습니다.

Key characteristics of the operation's behavior include:

• 맥락 인식 부족: 생성된 댓글이 기존 게시물(주로 러시아어로 작성된 게시물)에 대한 답글로 게시되었지만, 모델이 해당 게시물을 읽거나 분석하거나 관련 응답을 생성하는 데 사용되었다는 증거는 없습니다. 댓글은 사전에 생성된 것이며 소셜 미디어 콘텐츠에 반응하지 않았습니다.
• 계정 프로필: 관련 X 계정은 대부분 2023년 12월에 생성되었습니다. 이 계정들은 보통 팔로워가 없으며 게시물에 대한 답글도 받지 않았습니다.
• 시각적 기만: 이 계정들이 사용한 프로필 사진은 인터넷에서 복사한 풍경 이미지이거나 2019년부터 사용된 생성적 적대 신경망(GAN)으로 만든 가짜 이미지였습니다.

콘텐츠 전략: "Theme and Variations"

생성된 콘텐츠는 반부패 재단을 비판하는 데 초점을 맞추었으며, 특히 그 투명성을 의문시했습니다. 작전은 "theme and variations" 전략을 사용했으며, 동일한 핵심 메시지를 여러 게시물에 약간씩 다른 문구로 반복해 탐지를 피하거나 다양한 의견이 존재한다는 착각을 만들었습니다.

영향 평가

OpenAI는 이 작전의 영향을 제한적이라고 평가합니다. 확인된 대부분의 계정은 팔로워가 없고 참여(답글)도 받지 않았습니다. 또한, 이 네트워크가 생성한 영어 답글은 작전과 무관한 제3자들의 러시아어 답글에 비해 수가 적어, 네트워크가 플랫폼상의 대화를 효과적으로 잠식하지 못했음을 시사합니다.