AI 지원 루프홀: Instagram의 복구 프로세스가 어떻게 보안 악몽이 되었나
최근 보고서에 따르면 Obama White House 계정과 U.S. Space Force의 Chief Master Sergeant 계정과 같은 유명 타겟을 포함하여 공격자가 Instagram 계정을 탈취할 수 있게 하는 놀라울 정도로 단순한 취약점이 발견되었습니다. 이 취약점은 복잡한 코드나 제로데이(zero-day) 취약점을 이용한 것이 아니라, Instagram의 AI 기반 지원 시스템의 논리적 결함에서 비롯되었습니다.
탈취의 구조
보안 연구원 ssiddharth의 상세한 분석에 따르면, 공격 벡터는 거의 모든 보안 계층을 우회하는 "almost too stupid to be true" 프로세스였습니다. 프로세스는 다음과 같이 작동합니다:
- 위치 스푸핑(Location Spoofing): 공격자는 타겟 사용자 이름을 식별하고 VPN 또는 프록시를 사용하여 사용자와 동일한 도시 또는 지역에 있는 것처럼 보이게 합니다. 이는 기본적인 지리적 보안 알고리즘을 우회하기 위해 설계되었습니다.
- AI를 대상으로 한 사회 공학적 공격(Social Engineering the AI): 공격자는 Meta의 지원 AI에게 계정이 해킹되었다고 주장하며 연락합니다. 그런 다음 인증 코드를 공격자가 제어하는 임의의 이메일 주소로 보내달라고 요청합니다.
- 실패 지점: 인증 과정에서의 치명적인 실패로 인해, AI는 해당 이메일이 이전에 계정과 연결되어 있었는지 확인하지 않고 제공된 이메일 주소로 보안 코드를 전송한 것으로 보고되었습니다.
- 계정 탈취: 공격자가 코드를 받고 이를 AI에게 다시 제공하면, 시스템은 비밀번호 재설정 링크를 제공하여 계정의 전체 소유권을 부여합니다.
Instagram의 AI가 신원 확인을 위해 가끔 비디오 셀피를 요청할 수도 있지만, 보고서에 따르면 타겟의 공개 피드에 있는 AI 애니메이션 사진이 시스템을 속이는 데 충분한 경우가 많았습니다.
2FA가 실패한 이유
이 취약점의 가장 우려스러운 점 중 하나는 2단계 인증(2FA)을 완전히 무용지물로 만들었다는 것입니다. 시스템이 이 고권한 복구 프로세스를 "진짜" 소유자에 의한 전체 계정 재설정으로 취급했기 때문에, 기존의 2FA 설정은 단순히 삭제되었습니다.
기존 세션은 취소되었고, 원래 소유자의 이메일이나 전화번호로 어떠한 알림도 전송되지 않은 채 비밀번호가 변경되었습니다. 이로 인해 정당한 사용자는 계정을 복구할 수 있는 방법이 없었습니다. 복구용 이메일과 전화번호가 이제 공격자에게 매핑되어 있었기 때문입니다.
더 넓은 미치는 영향과 암시장
이 취약점은 단일 사건이 아니었습니다. Telegram 그룹이 "account takeover" 서비스를 위한 암시장으로 등장했으며, 공격자들은 고가치의 핸들(handle)을 판매했습니다. 짧고 매력적인 사용자 이름은 종종 수천 또는 수백만 달러에 거래되며, 이 취약점 이용을 위한 강력한 경제적 유인책을 만듭니다.
기술적 분석 및 커뮤니티 비판
Hacker News의 보안 커뮤니티는 불신과 좌절감을 나타냈습니다. 문제의 핵심은 인간 지원 요원에게 제공되는 도구와 LLM에게 제공되는 도구 사이의 구분을 실패한 것으로 보입니다.
"It seems there was an API that was internal for support use but was supposed to be gated by some required process of convincing the support agent you were who you said you were... but they didn’t really evaluate whether tools intended for conscientious human use should be provided directly to the LLM that replaced the former support agents.");
비판론자들은 AI가 임의의 주소로 코드를 보내는 특권적 권한을 가져서는 안 된다고 주장합니다. 대신, 기존의 파일에 있는 검증된 이메일로 코드를 보내는 "버튼 클릭" 기능으로 제한되어야 했습니다.
다른 사용자들은 이것이 지원 기반 계정 복구의 반복되는 문제라고 지적했습니다. 한 사용자가 언급했듯이, "Support requests have always been the weakest link in the security chain for big corps." 이 AI 취약점은 저수준 지원 인력이—또는 그들을 대체한 AI—가 사회 공학적 공격을 통해 2FA를 우회회할 수 있도록 유도하는 오래된 취약점의 최신 버전일 뿐입니다.
결론
Meta가 이약점을 루프홀을 해당 루프홀을 패치한 것으로 알려졌지만, 이 사건은 고권한 관리 워크플로우에 AI 에이전트를 통합하는 것의 위험성을 엄서하게 상기시켜 줍니다. 인간의 개입(human-in-the-loop) 없이 AI에게 중요한 보안 설정 변경 권한한 권한을 부여할 때, 결과는 종종 신뢰와 보안의 치명적인 실패로 이어집니다.