OpenAI, PRC 연계 AI 남용을 감시 및 영향력 차단

OpenAI는 감시 도구 설계, 프로파일링 제안 개발, 그리고 표적 온라인 연구에 ChatGPT를 사용한 PRC 정부 기관과 연계된 계정을 차단했습니다.

대규모 모니터링 도구 개발

PRC 정부 기관과 연계된 사용자들은 온라인 및 오프라인 트래픽을 대규모로 모니터링하기 위한 도구를 설계하고 홍보하기 위해 ChatGPT를 사용하려 시도했습니다. 이러한 경우 모델은 실제 모니터링 구현보다는 기획 및 홍보 자료 작성에 활용되었습니다.

• 소셜 미디어 청취 도구: VPN을 통해 중국에서 서비스를 이용했을 가능성이 있는 차단된 사용자는 ChatGPT를 사용해 소셜 미디어 "프로브"(探针)의 홍보 자료와 프로젝트 계획을 설계했습니다. 이 도구는 Twitter/X, Facebook, Instagram, Reddit, TikTok, YouTube 등 플랫폼에서 민족, 종교, 정치와 사용자가 "극단주의 발언"이라고 묘사한 콘텐츠를 스캔하도록 설계되었습니다.
• 여행 경고 시스템: 정부 기관과 연계된 것으로 보이는 두 번째 사용자는 ChatGPT를 활용해 "고위험 위구르 관련 유입 경고 모델"(高危涉维吾尔关注人员流入预警模型) 제안서를 작성했습니다. 이 제안된 도구는 교통 예약 정보를 분석하고 이를 경찰 기록과 비교하여 "위구르 관련 고위험"으로 분류된 개인들의 이동에 대한 조기 경고를 제공하는 것을 목표로 합니다.

표적 프로파일링 및 온라인 연구

OpenAI는 PRC 정부에 비판적인 개인이나 자금원을 식별하기 위한 맞춤형 표적 프로파일링 및 연구에 ChatGPT를 사용한 사용자들을 차단했습니다.

• 비판자 식별: 사용자들은 중국 정부를 비판한 X 계정의 자금원을 파악하고, 몽골에서 진행된 청원의 조직자를 식별하기 위해 ChatGPT를 사용하려 시도했습니다.
• 오픈소스 연구: 일부 사용자들은 모델을 오픈소스 연구 도구로 활용해 중국과 관련된 일일 속보를 요약했으며, 달라이 라마의 생일이나 1989년 천안문 광장 학살 기념일과 같은 민감한 주제도 포함되었습니다.

활동의 범위와 제한

OpenAI는 이번 차단이 모델의 대규모 기관 채택이 아니라 개별 사용자를 대상으로 한다고 밝혔습니다. 따라서 이 결과는 권위주의 정권과 연계된 개인이 이와 같은 상황에서 AI 모델을 어떻게 활용할 수 있는지에 대한 제한된 스냅샷을 제공한다는 의미입니다. 프로파일링 사례에서는 모델이 공개된 정보만 반환했으며, 조직자의 신원이나 사적 자금원과 같은 민감한 세부 정보를 제공하지 않았습니다.