OpenAI、韓国語マルウェア開発作業を阻止

OpenAIは、韓国語オペレーターがマルウェアおよびコマンド＆コントロール（C2）開発に使用していたChatGPTアカウントのクラスターを特定し、禁止しました。この措置により、AIをサイバー作戦に利用する協調的な取り組みが阻止されましたが、OpenAIはモデルが公開されているもの以上の機能を有効化したという証拠は見つかりませんでした。

脅威アクターの特定と帰属

OpenAIは、韓国大使館に対するスピアフィッシングキャンペーン、XenoRATマルウェアの展開、そしてC2のためのGitHubベースのリポジトリ使用に関するTrellixの報告と活動が重なるアカウントのクラスターを観測しました。

観測された活動は、韓国語の使用、作戦テーマ、UTC+8およびUTC+9の時間帯に合わせた活動などを含み、セキュリティコミュニティが把握している北朝鮮（DPRK）アクターと一致していますが、OpenAIは独自に帰属を判断できないと述べ、北朝鮮に対するサービスのブロックを維持しています。

観測された悪意ある行動

オペレーターは、複数のアカウントが狭い時間枠で活動し、各アカウントが複数領域にまたがるのではなく特定の技術的ユースケースに焦点を当てるという構造化されたワークフローを利用しました。主な行動は以下の通りです：

• インフラとプラットフォームの実験: アクターは、GDrive、pCloud、file.io などのクラウドストレージサービス向けの API スクリプト作成や直接リンク構築、さらに GitHub を介した生コンテンツ取得とトークン処理を試みました。
• 資格情報窃盗と API フック: モデルとのやり取りは、Windows API フック、DPAPI を使用したブラウザの資格情報およびクッキーへのアクセスフロー、そして reCAPTCHA クローンなどの見た目が似た検証ページの作成に焦点を当てました。
• フィッシングキャンペーン: アクターは、暗号通貨、政府機関、金融サービスプロバイダーをテーマにした韓国語のフィッシングメールを作成しました。

技術的能力とモデル出力

脅威アクターは、5つの主要な作戦領域を支援するためにモデル出力を生成しました：

インプラントとRAT開発

オペレーターは、リフレクティブ DLL ローディング、メモリ内実行、Windows API フック技術を調査し、リモートアクセストロイアン（RAT）開発を支援しました。

資格情報窃盗

オペレーターは、Chrome と Edge の DPAPI ワークフローを使用して、ブラウザの暗号化キー、クッキー、保存されたパスワードを抽出するスクリプトを生成、修正、デバッグしました。

フィッシングと誘引

アクターは、HTML の難読化や reCAPTCHA のプロキシングを試み、説得力のあるログインページを作成するとともに、暗号通貨をテーマにしたフィッシングコンテンツを作成しました。

macOS開発足場

リクエストは、Safari と Finder の拡張機能開発や、サンプルの App Store プライバシーポリシーの生成に焦点を当てました。

暗号通貨操作

オペレーターは、API 呼び出しやウォレット操作のトラブルシューティングにモデルを使用しました。

影響と緩和策

OpenAIは、すべての関連アカウントを無効化し、指標をパートナーと共有しました。OpenAIは、多くのリクエストが「二重用途活動のグレーゾーン」に該当し、正当なソフトウェアデバッグや暗号タスクが悪意ある目的に転用されていると指摘しました。重要な点として、同社はTrellixが報告したキャンペーンで使用された悪意あるバイナリがOpenAIのモデルで生成されたという証拠は見つかりませんでした。