OpenAIがイラン系CyberAv3ngersのサイバーリサーチ活動を阻止

OpenAIは、イランのイスラム革命防衛隊（IRGC）と提携した脅威アクターであるCyberAv3ngersに関連するアカウントを、同グループがAIモデルを使用してサイバーリサーチと偵察を行っていたことを発見した後に禁止しました。この措置は、国家支援型アクターが新たな能力を創出するのではなく、既存のサイバー攻撃ワークフローを効率化するためにLLMを利用し続けていることを示しています。

脅威アクター概要: CyberAv3ngers

CyberAv3ngersは、産業制御システム（ICS）やプログラマブルロジックコントローラ（PLC）を対象に、水道、製造、エネルギー分野で活動する破壊的な脅威アクターです。主な標的は米国、イスラエル、アイルランドのインフラです。

最近記録された同グループの攻撃例は以下の通りです:

  • ペンシルベニア州アリキッパ市水道局: 2023年11月にPLCが侵害されました。
  • アイルランド・メイヨー郡: 2023年12月に水道サービスが2日間中断しました。

これらのキャンペーンは通常、デフォルトまたは弱いパスワードと、PLCに関する広く文書化された脆弱性を悪用し、オープンソースのスキャンおよびエクスプロイトツールを利用します。

LLMの使用と悪意ある行動

CyberAv3ngersは、従来は検索エンジンで行われていた偵察や技術支援にChatGPTを利用しました。この活動は主にLLM ATT&CKフレームワークの4つのカテゴリに分類されます。

LLM支援型偵察

アクターはターゲットとアクセスポイントを特定するために情報を求めました。具体例は以下の通りです:

  • ヨルダンで一般的に使用される産業用ルータや電力会社、請負業者、一般的なPLCの一覧作成。
  • インターネットに接続可能な産業用プロトコルとポートの特定。
  • Tridium Niagara デバイスや Hirschmann RS シリーズ産業用ルータなど、特定ハードウェアのデフォルトユーザー名とパスワードの要求。
  • CrushFTP と Cisco Integrated Management Controller の最近公開された脆弱性、及び Asterisk VoIP ソフトウェアの古い脆弱性の調査。

LLM強化スクリプト技術

グループはモデルを利用してツールキットを洗練させました:

  • エラーを返すbashコードスニペットのデバッグ。
  • Modbus TCP/IP クライアントの作成依頼。

LLM支援型脆弱性調査

アクターはモデルを使って弱点を見つけて悪用しようとしました:

  • ネットワークやZIPファイルをスキャンして悪用可能な脆弱性を探す方法の質問。
  • プロセスホロウィング用のCソースコード例の要求。

LLM強化型回避と侵害後活動

グループはアクセス維持と権限昇格を目指しました:

  • ExcelのVBAスクリプトや一般的なコードを難読化する方法の質問。
  • SAMファイルのコピー方法、pwdump を使用したパスワードのエクスポート方法、MacOSでユーザーパスワードにアクセスする方法の指示要求。
  • ツール mimikatz の代替手段の探索。

技術的影響評価

OpenAIは、同社のモデルとのやり取りがCyberAv3ngersに新たな能力、リソース、情報を提供しなかったと結論付けました。LLMが提供した支援は、公開されている非AIツールでも既に実現可能な能力に対し、限定的かつ漸進的な改善にとどまります。

Sources