OpenAI、半導体および学術分野を標的としたサイバー作戦を阻止

OpenAI、PRC（中国）関連サイバー作戦を阻止

OpenAIは、PRC（中国）の情報要件に合わせたサイバー作戦を支援するために脅威アクターが使用していたChatGPTアカウントのクラスターを禁止しました。アクターは、モデルを主に既存のワークフローの効率を高めるために使用しており、具体的にはローカライズされたフィッシングコンテンツの作成や日常的なマルウェアツールのデバッグに利用していました。新たな攻撃能力を開発するためではありません。

脅威アクターの特定と標的設定

OpenAIは、このアカウントクラスターが業界パートナーが追跡している脅威グループ UNK_DROPPITCH（Proofpoint）および UTA0388（Volexity）と重複していることを特定しました。少なくとも1件では、ChatGPTアカウントの登録に使用されたメールアドレスがフィッシングメッセージの送信にも使用されていました。

これらの作戦は、PRC（中国）情報要件の特徴を示しており、以下の点が挙げられます：

• 言語使用: 中国語の広範な使用。
• 標的設定: 台湾の半導体セクター、米国の学術機関やシンクタンク、そして中国共産党（CCP）に批判的な民族・政治団体に関連する組織（「五毒」と呼ばれる）に焦点を当てる。

LLM使用の行動分析

脅威アクターは、ChatGPTを利用して日常的なタスクを加速し、ソーシャルエンジニアリングや技術ツールの品質を向上させました。彼らの開発能力は技術的には有能であるものの洗練されていないと評価され、C2トラフィックのAES暗号化の細部を議論しながらも単純な静的キーを使用している点に表れています。

フィッシングとソーシャルエンジニアリング

アクターは、英語、日本語、簡体字・繁体字中国語で高度にターゲット化されたフィッシングコンテンツを作成するための定型的なプレイブックに従いました。モデルを使用して以下を行いました：

• 学術、産業、または会議のペルソナからの簡潔で正式な礼儀正しいメールを生成する。
• トーンを調整し、地域ごとの用語に置き換えて信憑性を高める。
• 制限: これらの努力にもかかわらず、署名ブロック内の非現実的な連絡先情報を修正できませんでした。

ツールとマルウェア開発

アクターは、低〜中成熟度のマルウェア開発を加速するためにコードスニペットやチェックリストを要求しました。活動内容は以下の通りです：

• C2インフラ: AES-GCM暗号化、セッション再鍵化、システム情報ビーコンを備えたGoのクライアント‑サーバーコードの草案作成と修正。平文のWebSocketsから安全なWebSockets（wss://）へ、HTTPからHTTPSへの移行を目指しました。
• プロセス制御: GoとPowerShellを使用してプロセス列挙、環境情報取得、特定のEdge/WebView2プロセスの終了を実施。
• 偵察: PowerShellでアンチウイルスの検出を行い、商用Linuxインフラ上でnucleiやfscanといった汎用スキャナを統合。
• OPSEC: 関数名の変更、ヘッダーの調整、文字列の隠蔽など、検知回避のための簡易的な難読化を要求。

OpenAIは、アクターのGoベースの開発における実装詳細が、GOVERSHELL（Volexity）またはHealthKick（Proofpoint）として追跡されているマルウェアと重複していることを指摘しました。

LLM ATT&CK カテゴリへのマッピング

アクターの活動は複数のLLM ATT&CKカテゴリにマッピングされており、サイバー作戦にAIを活用する体系的なアプローチを示しています：

• LLM最適化ペイロード作成
• LLM強化異常検知回避
• LLM支援型事後侵害活動
• LLM支援型偵察・探索
• LLM支援型ソーシャルエンジニアリング

影響と結論

OpenAIは、関連するすべてのアカウントを無効化し、指標を業界パートナーと共有しました。調査の結果、モデルは新たな攻撃能力をアクターに提供していないことが判明しました。すべての活動は、広く文書化された公開技術に依存していたためです。アクターが得た主な利点は、言語流暢性、ローカリゼーション、そして失敗時に「グルーコード」やツールを迅速に生成・調整することによる段階的な効率向上でした。