OpenAI가 "Bad Grammar" 러시아 연계 영향 작전을 차단
OpenAI는 러시아에 있는 개인들과 연결된 계정 네트워크를 차단했으며, 이들은 AI 모델을 사용해 텔레그램에 배포할 정치 댓글을 자동 생성했습니다. 이 작전은 문법이 맞지 않는 영어를 반복적으로 사용하고 청중을 확보하기 어려워 "Bad Grammar"라는 별명을 얻었으며, 생성 AI를 활용해 영향 작전(IO)을 확대하려는 시도를 나타냅니다.
댓글 스팸을 위한 기술 파이프라인
"Bad Grammar" 네트워크는 AI 모델 사용과 자동화 도구를 결합한 댓글 스팸 파이프라인을 구축했습니다. 이 과정은 세 가지 주요 단계로 이루어졌습니다:
- 코드 디버깅: 운영자는 OpenAI 모델을 사용해 텔레그램 게시 과정을 자동화하도록 설계된 코드를 디버깅했습니다.
- 콘텐츠 생성: 모델을 사용해 러시아어와 영어로 댓글을 생성했으며, 이는 특정 대상 게시물에 답변하도록 맞춤화되었습니다.
- 배포: 네트워크는 최소 12개의 텔레그램 계정을 활용해 생성된 콘텐츠를 게시했습니다.
대상 청중 및 페르소나 개발
네트워크는 러시아, 우크라이나, 미국, 몰도바, 발트 3국의 청중을 목표로 삼았습니다. 언어별 콘텐츠 생성 접근 방식은 다음과 같이 달랐습니다:
- 영어 콘텐츠: 운영자는 미국 내 다양한 인구통계와 정치 스펙트럼을 대표하는 가짜 페르소나를 만들어 다양한 국내 의견을 시뮬레이션했습니다.
- 러시아어 콘텐츠: 지시는 보다 주제 중심이며 특정 페르소나에 초점을 맞추지 않았습니다.
활동은 소수의 텔레그램 채널에 집중되었습니다. 가장 많이 언급된 채널은 친러 채널 @Slavyangrad이며, 그 다음은 @police_frequency와 @SGTNewsNetwork(메타가 이전에 이란에서 시작된 것으로 보도한 채널)입니다.
정치 주제 및 콘텐츠 전략
캠페인은 다양한 언어에서 여러 핵심 정치 주제에 초점을 맞추었습니다:
- 우크라이나 전쟁: 두 언어 모두에서 주요 주제였습니다.
- 지역 안정: 몰도바와 발트 3국의 정치 상황.
- 미국 정치: 영어 댓글은 이민, 경제 어려움, 시사 문제에 초점을 맞추어 미국의 우크라이나 지원에 반대하는 논조를 보였습니다.
- 러시아어 댓글: 이들은 우크라이나와 몰도바 대통령을 부패와 서방 "간섭"에 대한 배신으로 비난하는 데 초점을 맞추었습니다.
3월 22일 모스크바 테러 공격 이후, 네트워크는 타지키스탄에 초점을 맞춘 새로운 텔레그램 계정 클러스터를 추가했으며, 타지크인과 러시아인 간의 단결과 러시아 법 준수를 촉구했습니다.
영향 작전 영향 평가
생성 AI를 사용했음에도 불구하고, "Bad Grammar" 네트워크는 실제 세계에 미치는 영향이 거의 없었습니다. OpenAI는 다음 요인들 때문에 이 작전을 Breakout Scale의 Category 1(가장 낮은 수준)으로 평가했습니다:
- 낮은 참여도: 거의 대부분의 댓글이 좋아요나 답글을 받지 못했습니다.
- 제한된 도달 범위: 네트워크의 댓글은 일반적으로 각 게시물에 대한 전체 답글 중 소수에 불과해 다른 의견을 잠식하지 못했습니다.
- 제한된 증폭: 네트워크 외부 사용자에 의한 의미 있는 증폭 증거가 없었습니다.
또한 OpenAI는 네트워크가 가끔 모델을 사용해 개인 메시지를 생성했으며, 이는 암호화폐 사기꾼과의 상호작용으로 보인다고 밝혔습니다.