OpenAI、PRC（中国）関連のAI乱用による監視と影響を阻止

OpenAIは、ChatGPTを使用して監視ツールの設計、プロファイリング提案の作成、ターゲットを絞ったオンライン調査を行ったPRC政府機関に関連するアカウントを禁止しました。

大規模モニタリングツールの開発

PRC政府機関に関連するユーザーは、オンラインおよびオフラインのトラフィックを大規模に監視するツールの設計とプロモーションにChatGPTを使用しようと試みました。これらのケースでは、モデルは監視の実装ではなく、計画やプロモーション資料の作成に使用されました。

• ソーシャルメディアリスニングツール: 中国からVPNでサービスにアクセスしていた可能性のある禁止されたユーザーは、ChatGPTを使用してソーシャルメディア「プローブ」（探针）のプロモーション資料とプロジェクト計画を設計しました。このツールは、Twitter/X、Facebook、Instagram、Reddit、TikTok、YouTube などのプラットフォーム上で、民族、宗教、政治に関するコンテンツや、ユーザーが「過激な発言」と表現したものをスキャンすることを目的としていました。
• 旅行警告システム: 別のユーザーは、政府機関に関係している可能性があり、ChatGPTを使用して「高危涉维吾尔关注人员流入预警模型」（高リスクウイグル関連流入警告モデル）の提案書を作成しました。この提案されたツールは、交通予約を分析し、警察記録と比較して、「ウイグル関連かつ高リスク」と分類された個人の移動に関する早期警告を提供することを目的としています。

ターゲットを絞ったプロファイリングとオンライン調査

OpenAIは、PRC政府に批判的な個人や資金源を特定することを目的とした、カスタマイズされたターゲットプロファイリングと調査にChatGPTを使用したユーザーを禁止しました。

• 批判者の特定: ユーザーは、Chinese政府を批判するXアカウントの資金源を特定し、モンゴルでの請願書の主催者を特定しようとChatGPTを使用しました。
• オープンソース調査: 一部のユーザーは、モデルをオープンソース調査ツールとして利用し、中国に関連する日々の速報ニュースを要約しました。その中には、ダライ・ラマの誕生日や1989年天安門広場虐殺の記念日など、敏感なトピックも含まれます。

活動の範囲と限界

OpenAIは、これらの阻止措置がモデルの大規模・機関的な導入ではなく、個々のユーザーを対象としていることを指摘しています。そのため、結果は権威主義体制に関連する個人がこの文脈でAIモデルをどのように使用するかの限定的なスナップショットを示すものです。プロファイリングのケースでは、モデルは公開情報のみを返し、主催者の身元やプライベートな資金源といった機密情報は提供しませんでした。