OpenAI、SweetSpecter（中国関連）サイバー活動を阻止
OpenAIは、ChatGPTを攻撃的なサイバー作戦に利用しようとし、同時にOpenAI従業員と世界各国政府を標的としたスピアフィッシング攻撃を行ったと疑われる中国拠点の脅威アクターSweetSpecterに関連するアカウントを特定し、禁止しました。これは、米国拠点のAI企業を標的にしたSweetSpecterの事例として初めて公に特定されたものです。
OpenAI従業員に対するスピアフィッシングキャンペーン
2024年5月、OpenAIはSweetSpecterが従業員の企業および個人メールアカウントを標的にしているという情報を受け取りました。脅威アクターは支援を求めるChatGPTユーザーを装い、被害者を『some problems.zip』という悪意のある添付ファイルを開かせようと誘導しました。
攻撃の技術的実行
- Lure（誘い）: ユーザーには、シミュレートされたChatGPTエラーとサービスメッセージを含むDOCXファイルが提示されます。
- Payload（ペイロード）: 背景で、SugarGh0st RAT（Remote Access Trojan）が復号され実行されます。
- Objective（目的）: マルウェアは、侵害されたマシンに対する遠隔操作権限を脅威アクターに付与し、任意のコマンド実行、データ抽出、画面キャプチャを可能にするよう設計されています。
OpenAIは、既存のセキュリティ制御により、これらのメールは企業の受信トレイに届く前に正常にブロックされたと報告しています。
LLMベースの戦術、技術、手順（TTP）
OpenAIは、共有インフラを利用して脆弱性調査やスクリプト作業を行っていたChatGPTアカウントのクラスターを阻止しました。これらの活動は、MITRE ATT&CK® Framework向けに提案されたLLMテーマの戦術、技術、手順（TTP）にマッピングされました。
観測された脅威アクティビティ
| 活動 | LLM ATT&CK フレームワークカテゴリ |
|---|---|
| アプリケーションの脆弱性や特定のCVE番号について問い合わせる | LLM支援の偵察 |
| 脆弱なLog4j（Log4Shell）バージョンを検索する | LLM支援の偵察 |
| 人気のある海外CMSを調査する | LLM支援の偵察 |
| インターネット全体のスキャナー作成について問い合わせる | LLM支援の偵察 |
| sqlmapを使用してターゲットサーバーにウェブシェルをアップロードする | LLM支援の脆弱性調査 |
| 大手自動車メーカーのインフラ向けエクスプロイトを探す | LLM支援の脆弱性調査 |
| テキストメッセージ送信用の通信サービスをプログラミングする | LLM強化スクリプト技術 |
| サイバーセキュリティツールの拡張機能をデバッグする | LLM強化スクリプト技術 |
| プログラム的なSMS配信のフレームワークを開発する | LLM支援開発 |
| 政府職員向けのソーシャルエンジニアリングテーマを調査する | LLM支援のソーシャルエンジニアリング |
| 求人誘導メッセージのバリエーションを作成する | LLM支援のソーシャルエンジニアリング |
影響と防御上の洞察
OpenAIは、LLMの使用が脅威アクターに対し、他の公開リソースから得られない新たな能力や方向性を提供しなかったと結論付けました。
防御におけるAIの活用
調査中、OpenAIのセキュリティチームはChatGPTを用いて脅威アクティビティの大規模データセットを分析、分類、要約しました。同社は、将来のモデルのバージョンをリバースエンジニアリングや悪意ある添付ファイルの分析支援に活用することを期待しています。
コラボレーションの重要性
OpenAIは、業界パートナーとの協力と脅威インテリジェンスの共有が、失敗した侵害試行を特定する上で重要であり、AI時代における集合的防御の必要性を強調しています。