OpenAI, Claude, Grok의 동시 장애 발생

멀티 프로바이더 AI 장애 개요

여러 주요 AI 플랫폼인 OpenAI, Claude (Anthropic), 그리고 Grok (xAI)에서 동시 서비스 중단이 발생했습니다. 초기 추측은 광범위한 DNS 또는 Cloudflare 문제로 기울었으나, 증거에 따르면 근본 원인은 물리적 컴퓨팅 인프라에 집중되어 있었습니다.

근본 원인: xAI Memphis 컴퓨팅 센터 장애

장애의 주요 원인은 Memphis에 위치한 xAI 컴퓨팅 센터의 장애였습니다. xAI는 공식적으로 이 사건을 인정하며 다음과 같이 밝혔습니다:

오늘 아침 우리 Memphis 컴퓨팅 센터의 장애 이후 Grok에서 경험했을 수 있는 문제들에 대해 사과드립니다. 또한 영향을 받은 컴퓨팅 파트너들에게도 사과드립니다.

이 성명은 Memphis 시설이 Grok뿐만 아니라 다른 "컴퓨팅 파트너"들에게도 컴퓨팅 리소스를 제공했음을 확인시켜 주며, 왜 여러 독립적인 AI 프로바이더들이 동시에 장애를 겪었는지 설명해 줍니다.

이론적 연쇄 장애 및 "Thundering Herd" 현상

물리적 인프라 장애 외에도, 커뮤니티 분석에 따르면 사용자들이 플랫폼 간을 이동하면서 2차적인 "연쇄(cascading)" 효과가 발생했음을 시사합니다. "Thundering herd" 문제로 알려진 이 현상은 대규모의 사용자가 동시에 대체 프로바이더로 워크로드를 전환할 때 발생합니다.

사용자 이동 패턴

관찰자들은 OpenAI와 같은 서비스가 불가능해지면 사용자들이 Claude나 Grok과 같은 대안으로 이동한다는 점에 주목했습니다. 이러한 갑작스러운 트래픽 유입은 남아있는 정상 작동 중인 서비스들에 과부하를 일으켰을 가능성이 높으며, 이는 후속적인 용량 제한 및 503 오류로 이어졌습니다.

자동화된 폴백(Fallback) 메커니즘

기술적 논의에서는 많은 AI 통합 애플리케이션이 한 프로바이더가 실패할 때 프로바이더를 전환하기 위해 자동화된 라우팅을 사용한다는 점이 강조되었습니다. 한 사용자가 다음과 같이 언급했습니다:

AI를 사용하는 애플리리케이션을 구축한다면, 애플리케이션의 다양한 부분에 여러 프로바이더와 모델을 준비해 두고 다양한 폴백 메커니즘을 갖추고 있을 것입니다. 하나의 모델이 다운되면, 기능/비용 면에서 유사한 다른 모델로 트래픽을 라우팅합니다. 총체적으로 보면, 이는 어리석은 일입니다.

이러한 자동화는 트래픽의 이동을 가속화하여, 잠재적으로 단일 프로바이더의 장애를 AI 생태계 전반의 시스템적 실패로 바꿀 수 있습니다.

커뮤니티 추측 및 반박된 이론들

사건 발생 중, 동시 다운타임에 대해 설명하기 위해 몇 가지 이론이 제안되었습니다:

Cloudflare/DNS 문제: 많은 사용자들이 Downdetector에 보고된 오류로 인해 Cloudflare 또는 AWS를 의심했습니다. 하지만 일부 보고에 따르면 Cloudflare는 해당 기간 동안 장애가 없었다고 부인했습니다.
지리적 제한: 프랑스의 일부 사용자들은 서비스가 계속 이용 가능하다고 보고하여, 문제가 미국 기반 데이터 센터에 집중되었을 수 있음을 시사했습니다.
모델 출시: "Fable 5.1"의 출시가 벤치마킹 트래픽의 급증을 유발하여 서비스를 과부하 시켰다는 추측이 있었습니다.
지정학적 행위자: 일부는 국제적 행위자들이 시장을 움직이기 위해 AI 붐을 겨냥했다고 이론화했으나, 이는 인프라 장애라는 설명에 밀려 대부분 기각되었습니다.