OpenAI がロシア語圏のマルウェアツール作成作戦を阻止

OpenAI は、ロシア語圏の犯罪グループがマルウェア（リモートアクセストロージャン（RAT）や認証情報窃取ツール）を開発・洗練するために使用していた一連の ChatGPT アカウントを無効化しました。この措置により、脅威アクターがモデルを利用して悪意あるソフトウェアの技術的構成要素を試作するワークフローが妨げられました。モデルの組み込み保護機能が直接的な悪意あるコンテンツのリクエストを拒否しているにもかかわらず、彼らはそれを回避していました。

技術的な振る舞いと手法

脅威アクターは、完全な悪意あるペイロードを生成するのではなく、ChatGPT を使って「構成要素」コードを生成していました。モデルがマルウェア作成の直接リクエストを拒否したため、オペレーターは低レベルの技術タスクを繰り返し実行し、プラットフォーム外で独自の悪意あるワークフローを組み立てていました。

重点を置いた主な技術領域は次のとおりです。

• 低レベル Windows プラットフォーム知識: アクターは PE / Win32 API、DPAPI / AES GCM クッキー処理、Chrome DevTools / CDP 自動化に注力しました。
• 難読化と回避: アクターは「暗号化」パターン用のコードを生成し、ジャンクシーケンスやパディング命令を挿入して PE 署名を変更し、アンチウイルス（AV）やエンドポイント検知・応答（EDR）システムを回避しました。
• ポストエクスプロイトツール: オペレーターはモデルを利用して、クリップボード監視、アーカイブ・転送スクリプト、Telegram ボットによるデータ抽出用コンポーネントを試作しました。
• 運用支援: アクターは大量パスワード生成やスクリプト化された求人応募など、日常的なタスクにもモデルを使用しました。

マルウェアコンポーネントと LLM ATT&CK マッピング

脅威アクターの活動は LLM ATT&CK フレームワークにマッピングされ、構築しようとした具体的な攻撃能力が分類されました。

活動	LLM ATT&CK フレームワークカテゴリ
EXE を位置独立シェルコードに変換し、インメモリローダー（VirtualAlloc / WriteProcessMemory / リモートスレッド）を構築、ローダーツールチェーン用に言語変換を実施。	LLM 最適化ペイロード作成
難読化／パッカー層、暗号化ツール、暗号化技術を挿入し、ペイロードを AV/EDR から隠蔽。	LLM 強化型異常検知回避
ブラウザ認証情報やクッキーの抽出・復号、ウォレット LevelDB の解析、クリップボード内容の監視・置換、Telegram ボット経由でのデータ抽出スクリプトを生成。	LLM 支援型ポストコンプロマイズ活動
リバースプロキシ、SOCKS5 / OpenVPN 設定、リモートデスクトップトンネリングを含む C2 およびトンネリングインフラを構築・洗練。	LLM 支援型インフラプロファイリング

作戦の範囲と影響

OpenAI はこの活動に関連するすべてのアカウントを無効化し、指標を業界パートナーと共有しました。調査により、モデルの保護機能がエクスプロイトやキーロガーへの直接リクエストを確実にブロックしていたことが判明しました。

OpenAI は、ChatGPT へのアクセスがこれらのアクターに「公開されている複数のリソースからは得られない新規の能力や指針」を提供したとは結論付けていません。

アクターの帰属

OpenAI の評価によれば、活動は複数のアカウント、プロキシ、エフェメラルホスティングインフラを使用し、ロシア語圏の犯罪グループ向け Telegram チャンネルで証拠を投稿していたロシア語オペレーターによって管理されていました。