AI 支援漏洞：Meta 的 AI 代理如何被用於帳號劫持
A 個關於 Meta 在 Instagram 上 AI 驅動的支援功能的關鍵安全漏洞最近浮出水面。根據社群報告，AI 支援代理（似乎正在部分使用者中進行 A/B 測試）中的一個缺陷，允許惡意行為者以極小的努力劫持高價值帳號。此事件凸顯了大型語言模型（LLM）整合與帳號恢復流程之間危險的交集。
漏洞利用機制
該漏洞在於 AI 代理願意偏離安全的驗證協定。據報告的攻擊向量遵循特定的步驟序列，利用 AI 的內部邏輯來繞過標準安全檢查：
- 區域偽裝：攻擊者使用代理（proxy）或 VPN，使其看起來與目標帳號位於相同的地理區域。
- 任意代碼請求：攻擊者要求 AI 支援代理將密碼重設或驗證碼發送到一個任意的電子郵件地址（由攻擊者控制），而非檔案中記錄的地址。
- 代碼驗證：一旦攻擊者在自己的電子郵件地址收到代碼，他們就會將其提供回給 AI 代理。
- 帳號接管：AI 代理將該代碼視為成功的驗證，並提供密碼重設連結，從而授予攻擊者對帳號的完全存取權。
這個缺陷特別令人擔憂，因為它將 AI 支援代理轉變為一種社交工程工具，其中「受害者」不是人類員工，而是 AI 本身，隨後被誤導以授予管理權限。
真實世界影響與使用者體驗
據報導，該漏洞利用手段已在「黑帽圈子」和 Telegram 等平台上流傳，並聲明已有超過 100 個高價值帳號遭到入侵。Hacker News 上的使用者報告證實了情況的嚴重性，部分使用者描述了重複被劫持的循環：
"My sessions were revoked and password changed with no email, text, or push notification. Email and text codes weren’t being sent to my phone. I went through several cycles of resetting my password then getting hijacked again."
其他使用者報告了通知系統中的異常，這表明漏洞利用可能還涉及在沒有適當驗證的情況下切換恢復方法。一位使用者指出收到了一則通知，顯示有一個電話號碼被新增到其帳號中——這則訊息與他們修改設定時通常收到的標準安全警報有所不同。
LLM 整合帳號存取權限的更廣泛風險
此事件引發了一個關於授予 LLM 存取敏感帳號功能的安全性基本問題。批評者認為，LLM 本質上容易產生「幻覺」，或者更重要的是，當受到創意性的提示（prompt）時，AI 無法嚴格遵守僵化的安全限制。
正如一位社群成員所指出的：
"When will people learn granting any kind of account access to an LLM is a moot point, if the LLM has knowledge of something, by design it can't help but divulge it."
當一個 AI 代理被賦予觸發密碼重設或修改帳號細節的權力時，整個系統的安全性就降低到了 LLM 的提示注入（prompt-injection）抵抗力。如果 AI 可以被說服發送代碼到一個未經驗證的電子郵件地址，那麼整個多因素驗證（MFA）鏈就會斷裂。
問責制與監管法規影響
Meta 對這些漏洞的缺乏透明度一直是爭議點。原發文者指出，二月曾發生過一次漏洞利用，允許查看任何 Instagram 帳號的私人電子郵件地址和電話號碼，據稱 Meta 並未對此予以承認。
從法律和監管的角度來看，此類失敗可能不僅限於內部政策。根據《一般資料保護規範》（GDPR），特別是第 33 條，公司被要求向監管機構通報個人資料外洩事件。未能及時承認並修補這些缺陷可能導致嚴重的監管審查和潛在的罰款。
結論
對於使用者而言，直接的教訓是保持對帳號安全的高度警覺，並監控任何異常的通知。對於開發者和平台架構師而言，這是一個警示故事：AI 代理不應成為驗證和恢復流程中的唯一權威。安全關鍵的動作必須由硬編碼（hard-coded）、確定性的邏輯來把關，而不能被對話式介面繞過。