AI 支持漏洞:Instagram 的恢复流程如何演变成安全噩梦

最近的报告揭示了一个令人震惊且极其简单的漏洞,攻击者可以利用该漏洞劫持 Instagram 账号,包括像 Obama White House 账号和 U.S. Space Force 首席军事长官这样备受瞩目的目标。该漏洞并不依赖复杂的代码或零日漏洞,而是源于 Instagram AI 驱动的支持系统中逻辑上的根本缺陷。

劫持过程解析

根据安全研究员 ssiddharth 的详细分析,该攻击向量是一个“几乎简单到令人难以置信”的过程,它绕过了几乎所有的安全层。流程如下:

  1. 地理位置伪造: 攻击者确定目标用户名,并使用 VPN 或代理服务器,使自己看起来与用户处于同一城市或地区。这旨在绕过基本的地理位置安全算法。
  2. 对 AI 进行社会工程学攻击: 攻击者联系 Meta 的支持 AI,声称账号已被黑客攻击。随后,他们要求将验证码发送到任意一个电子邮件地址——一个由攻击者控制的地址。
  3. 失效点: 在一次灾难性的身份验证失败中,据报道,AI 将安全码发送到了提供的电子邮件地址,而没有验证该电子邮件是否曾与该账号关联。
  4. 账号劫持: 一旦攻击者收到验证码并将其提供给 AI,系统就会授予重置密码的链接,从而使攻击者获得账号的完全所有权。

虽然 Instagram 的 AI 有时可能会要求进行视频自拍以进行身份验证,但报告显示,利用目标用户公开动态中的 AI 动画照片通常足以欺骗系统。

为什么 2FA 失效了

这次漏洞利用最令人担忧的方面之一是,它使得双重身份验证 (2FA) 完全失效。由于系统将这种高权限的恢复流程视为“真实”所有者进行的全面账号重置,原始的 2FA 设置被直接抹除。

现有的登录会话被撤销,密码被更改,且没有向原始所有者的电子邮件或电话发送任何通知。这使得合法用户无法找回其账号,因为恢复用的电子邮件和电话号码现在都已映射到攻击者身上。

更广泛的影响与黑市

该漏洞并非孤立事件。Telegram 群组已成为“账号劫持”服务的黑市,攻击者在其中出售高价值账号的访问权限。短小且受欢迎的用户名经常被交易数千甚至数百万美元,这为这种漏洞利用创造了强大的经济动机。

技术分析与社区批评

Hacker News 上的安全社区对此反应强烈,表现出难以置信和挫败感。问题的核心似乎在于未能区分旨在为人工支持人员使用的工具与提供给 LLM 的工具。

"It seems there was an API that was internal for support use but was supposed to be gated by some required process of convincing the support agent you were who you said you were... but they didn’t really evaluate whether tools intended for conscientious human use should be provided directly to the LLM that replaced the former support agents."

批评者认为,AI 不应该拥有向任意地址发送验证码的高权限访问权。相反,它应该被限制在“点击按钮”的功能内,即仅向档案中现有的、已验证的电子邮件发送验证码。

其他用户指出,基于支持请求的账号恢复是一个反复出现的问题。正如一位用户所言:“对于大公司而言,支持请求一直是安全链条中最薄弱的环节。”这次 AI 漏洞利用仅仅是这种长期存在的漏洞的最新迭代版本,即低级支持人员——或其 AI 替代品——可以通过社会工程学手段被诱导绕过 2FA。

结论

虽然据报道 Meta 已修复了该漏洞,但此次事件为将 AI 代理集成到高权限管理工作流中带来了危险,提供了一个了一个严峻的提醒。当 AI 被赋予在没有人工干预的情况下修改关键安全设置的权力时,结果往往是信任与安全的灾难性失败。

Sources