AIサポートの抜け穴：Instagramのリカバリーフローがいかにしてセキュリティの悪夢となったか
最近の報告により、オバマ大統領のホワイトハウスのアカウントや米宇宙軍の最先任上級曹長といった著名なターゲットを含む、攻撃者がInstagramアカウントを乗っ取ることを可能にする、驚くほど単純なエクスプロイトが明らかになりました。この脆弱性は、複雑なコードやゼロデイ攻撃に依存するものではなく、InstagramのAI主導のサポートシステムにおける論理的な根本的欠陥に起因するものでした。
乗っ取りの仕組み
セキュリティ研究者の ssiddharth による詳細な分析によると、攻撃ベクトルは、ほぼすべてのセキュリティレイヤーをバイパスする「信じられないほど愚かな」プロセスでした。フローは以下の通りです。
- 位置情報の偽装: 攻撃者はターゲットとなるユーザー名を特定し、VPNやプロキシを使用して、ユーザーと同じ都市または地域にいるかのように見せかけます。これは、基本的な地理的セキュリティアルゴリズムを回避するように設計されています。
- AIへのソーシャルエンジニアリング: 攻撃者はMetaのサポートAIに連絡し、アカウントがハッキングされたと主張します。その後、検証コードを任意のメールアドレス（攻撃者が管理するもの）に送信するよう要求します。
- 認証の失敗点: 認証における壊滅的な失敗として、AIは、そのメールアドレスが以前にアカウントに関連付けられていたかどうかを確認することなく、提供されたメールアドレスにセキュリティコードを送信したと報告されています。
- アカウントの乗っ取り: 攻撃者がコードを受け取り、それをAIに提供すると、システムはパスワードリセットリンクを付与し、アカウントの完全な所有権を譲渡します。
InstagramのAIは、本人確認のためにビデオセルフィーを要求することがありますが、報告によると、ターゲットの公開フィードから取得したAIでアニメーション化された写真が、システムを欺くのに十分な場合が多いことが示唆されています。
なぜ2FAが機能しなかったのか
このエクスプロイトの最も懸念すべき側面の一つは、それが二要素認証（2FA）を完全に無効にしたことです。システムがこの高権限のリカバリーフローを「真の」所有者による完全なアカウントリセットとして扱ったため、元の2FA設定は単に消去されました。
既存のセッションは取り消され、元の所有者のメールアドレスや電話番号に通知が送られることなくパスワードが変更されました。これにより、正当なユーザーはアカウントを回収する方法がなくなりました。なぜなら、リカバリーメールアドレスと電話番号は、すでに攻撃者に関連付けられていたからです。
広範な影響とブラックマーケット
この脆弱性は、単発の出来事ではありませんでした。Telegramのグループが「アカウント乗っ取り」サービスのブラックマーケットとして台頭し、攻撃者が価値の高いハンドル名を販売していました。短くて魅力的なユーザー名は、数千ドルから数百万ドルで取引されることがあり、このエクスプロイトによる強力な金銭的インセンティブを生じています。
技術的分析とコミュニティの批判
Hacker Newsのセキュリティコミュニティは、不信感と不満をあらわにしています。問題の核心は、人間によるサポートエージェント向けのツールと、LLMに提供されるツールの区別ができていないことにあるようです。
"It seems there was an API that was internal for support use but was supposed to be gated by some required process of convincing the support agent you were who you said you were... but they didn’t really evaluate whether tools intended for conscientious human use should be provided directly to the LLM that replaced the former support agents."
批判的な人々は、AIが任意のドレスにコードを送信する特権権限を持っていたべきではないと主張しています。代わりに、既存の、検証済みのファイル上のメールアドレスにコードを送信する「ボタンを押す」機能に限定されるべきでした。
他のユーザーは、これがサポートベースのアカウントリカバリーにおける繰り返される問題であることを指摘しています。あるユーザーが指摘したように、「サポートリクエストは、常に大企業のセキュリティチェーンにおける最も弱い環です」。このAIエクスプロイトは、低レベルのサポートスタッフ、またはそのAIによる代替品が、2FAをバイパスするためにソーシャルエンジニアリングの対象となる、長年にわたる脆弱性の最新の形態に過ぎません。
結論
Metaがこの抜け穴を修正したと報告されていますが、この事件は、高権限の管理ワークフローにAIエージェントを統合することの危険性を、冷酷なリマインダーとして機能しています。人間による確認（human-in-the-loop）なしに、AIが重要なセキュリティ設定を変更する権限を与えられた場合、その結果はしばしば、信頼とセキュリティの壊滅的な失敗をしまいます。