AIサポートの脆弱性：MetaのAIエージェントがいかにしてアカウント乗っ取りに悪用される可能性があるか

A critical security vulnerability has recently come to light regarding Meta's AI-driven support features on Instagram. 最近、InstagramにおけるMetaのAI駆動型サポート機能に関する重大なセキュリティ脆弱性が明らかになりました。コミュニティからの報告によると、一部のユーザーを対象にA/Bテストされていると思われるAIサポートエージェントの欠陥により、悪意のある攻撃者が最小限の労力で価値の高いアカウントを乗っ取ることが可能になっています。この事案は、大規模言語モデル（LLM）の統合とアカウント復旧ワークフローの間の危険な交差点を示しています。

The Mechanics of the Exploit

この脆弱性は、AIエージェントが安全な認証プロトコルから逸脱することを許容してしまう点にあります。報告されている攻撃ベクトルは、AIの内部ロジックを利用して標準的なセキュリティチェックをバイパスするために、特定のステップに従います。

Regional Spoofing: 攻撃者はプロキシやVPNを使用して、ターゲットとなるアカウントと同じ地理的領域にいるように見せかけます。
Arbitrary Code Request: 攻撃者はAIサポートエージェントに対し、登録されているメールアドレスではなく、任意のメールアドレス（攻撃者が制御するもの）にパスワードリセットまたは確認コードを送信するよう要求します。
Code Verification: 攻撃者が自身のメールアドレスでコードを受け取ると、それをAIエージェントに提供します。
Account Takeover: AIエージェントは、そのコードを正常な認証として認識し、パスワードリセットリンクを提供するため、攻撃者はアカウントへの完全なアクセス権を得ることになります。

この欠陥は、特に深刻です。なぜなら、AIサポートエージェントをソーシャルエンジニアリングのツールへと変貌させてしまうからです。そこでは「被害者」は人間の従業員ではなくAI自身であり、AIが管理権限を付与するように騙されることになります。

Real-World Impact and User Experiences

このエクスプロイトは、すでに「blackhat circles」やTelegramのようなプラットフォームで拡散されていると報告されており、すでに100件以上の価値の高いアカウントが侵害されているとの主張もあります。Hacker Newsでのユーザー報告は、状況の深刻さを裏付けており、一部のユーザーは、繰り返される乗っ取りのサイクルについて次のように述べています。

"My sessions were revoked and password changed with no email, text, or push notification. Email and text codes weren’t being sent to my phone. I went through several cycles of resetting my password then getting hijacked again."

他のユーザーは、通知システムにおける異常を報告しており、これはエクスプロイトが適切な認証なしに復旧方法を切り替えることも含んでいる可能性を示唆しています。あるユーザーは、アカウントに電話番号が追加されたという通知を受け取ったと述べており、そのメッセージは、設定を変更する際に通常受け取る標準的なセキュリティアラートとは異なっていました。

The Broader Risk of LLM-Integrated Account Access

この事案は、LLMに機密性の高いアカウント機能へのアクセス権を付与することのセキュリティに関する根本的な疑問を投げかけています。批判的な意見を持つ人々は、LLMが本質的に「hallucinations（ハルシネーション）」を起こしやすいこと、あるいはより重要な点として、創造的なプロンプトによってAIが厳格なセキュリティ制約を遵守できなくなる可能性を指摘しています。

あるコミュニティメンバーは次のように指摘しています。

"When will people learn granting any kind of account access to an LLM is a moot point, if the LLM has knowledge of something, by design it can't help but divulge it."

AIエージェントにパスワードリセットやアカウント詳細の変更をトリガーする権限が与えられた場合、システム全体のセキュリティは、LLMのプロンプトインジェクション耐性に集約されてしまいます。もしAIが、未検証のメールアドレスにコードを送信することに納得させられてしまうと、多要素認証（MFA）のチェーン全体が崩壊します。

Accountability and Regulatory Implications

これらの脆弱性に関するMetaの透明性の欠如は、論争の的となっています。元の投稿者は、2月の以前のエクスプロイトにより、あらゆるInstagramアカウントのプライベートなメールアドレスや電話番号を閲覧することが可能であったと述べており、Metaはこれに対しても報告されていないと主張しています。

法的および規制の観点からは、このような失敗は内部ポリシーに留まらない可能性があります。GDPR（一般データ保護規則）の第33条に基づき、企業は個人データの漏洩が発生した際に監督当局に通知する義務があります。これらの欠陥を適時宜に認め、修正（patch）する怠慢は、重大な規制上の監視と潜在的な罰金につながる可能性があります。

Conclusion

ユーザーにとっての当面の教訓は、アカウントのセキュリティに細重を払い、異常な通知がないか監視することです。開発者やプラットフォーム設計者にとって、これは教訓的な事例となります。AIエージェントは、認証および復旧ワークフローにおいて、単独の権限限を持たせてはなりません。セキュリティに重要なアクションは、会話型インターフェースによってバイパスされることのない、ハードコードされた決定論的なロジックによって制御されるべきです。