OpenAIがAIを使用してDPRK系サイバーベイジングアクターを撹乱

OpenAIは、北朝鮮（DPRK）系脅威アクターに関連するアカウントを禁止しました。対象は、VELVET CHOLLIMA（Kimsuky、Emerald Sleet）およびSTARDUST CHOLLIMA（APT38、Sapphire Sleet）として知られるグループです。これらのアクターは、サイバー侵入ツールの開発、偵察、ソーシャルエンジニアリング戦術の洗練にAIツールを利用していました。

アクターの特定と検出

OpenAIは、信頼できる業界パートナーからの情報提供を受けてこれらのアカウントを検出しました。禁止されたアカウントは、公開されているDPRK系脅威アクター、特にVELVET CHOLLIMAおよびSTARDUST CHOLLIMAと一致する活動パターンを示していました。

行動パターンとAIの使用

脅威アクターは、OpenAIのモデルをコーディング支援、デバッグ、オープンソースのセキュリティ関連コードの調査に利用していました。活動は主に2つの領域に集中しており、サイバー侵入作業と暗号通貨関連トピックの組み合わせは、DPRK系グループに典型的です。

技術的なAI支援活動

アクターは以下の具体的な技術タスクにLLMを活用していました:

• LLM支援リコン: 様々なアプリケーションの脆弱性について質問する。
• LLM支援開発: ブルートフォース攻撃用のC#ベースのRDPクライアントを開発・トラブルシューティングし、未承認のRDPアクセスのセキュリティ警告を回避するコードを要求する。
• LLM強化スクリプト: RDP接続、ファイルのアップロード/ダウンロード、メモリ上でのコード実行、異常検知回避のためのHTMLコンテンツの難読化用PowerShellスクリプトを要求する。
• LLM最適化ペイロード作成: 実行用の難読化ペイロードの作成と展開について議論する。
• LLM支援事後侵害活動: オープンソースのリモート管理ツール（RAT）を調査する。
• LLM支援ソーシャルエンジニアリング: 暗号通貨投資家やトレーダーを対象としたフィッシング手法を探し、ユーザーに機密情報を開示させるフィッシングメールを作成する。

セキュリティへの影響と緩和策

OpenAIは、アクターに提供されたモデル生成は、プロンプトやクエリが主に既存のオープンソース情報に基づいていたため、特筆すべき新機能を提供しなかったと報告しています。多くの場合、モデルはリクエストに応答することを拒否しました。

これらの活動を撹乱するため、OpenAIは関連アカウントを禁止し、発見されたペイロードをセキュリティコミュニティと共有しました。アクターがMacOS向けの自動起動拡張ポイント（ASEP）位置や手法のデバッグを試みた調査中に、OpenAIはセキュリティベンダーが以前は把握していなかったバイナリ用のステージングURLを特定しました。これらのURLをオンラインスキャンサービスに送信することで、セキュリティベンダーは現在これらのバイナリを確実に検出できるようになり、潜在的な被害者を保護します。