국방부 AI 기반 사살 체인, 21세기 최악의 미국 타격 오류로 이어져

이번 공격은 데이터 오류, 인력 감축, AI에 대한 과도한 신뢰로 인한 예방 가능한 참사였다

국방부 내부 조사 결과, 2026년 2월 28일에 발생한 토마호크 미사일 공격은 과거의 데이터 오류, 민간인 피해 완화 팀의 해체, 팔란티어의 마븐 AI 플랫폼에 대한 과도한 의존으로 인해 발생했으며, 이로 인해 이란 미나브의 샤자라 테이예베 초등학교에서 최소 123명의 어린이가 사망했다.


오래된 정보가 잘못 분류된 타겟을 마븐에 입력

  • 해당 시설은 2017~2018년의 위성 이미지에서 벽, 축구장, 민간인 활동이 완전히 확인된 학교로 나타났음에도 불구하고, 수년간 이슬람 혁명수비대(IRGC) 시설로 분류되어 왔다.
  • 2019년 분석가가 변화를 지적했지만, 그 의견은 주요 군사 정보 데이터베이스와 동기화되지 않는 시스템에 기록되었다.
  • 2026년 2월 오펜시브를 위한 타겟 목록을 구성할 당시, 오래된 분류가 그대로 유지되었으며, 마븐은 해당 시설을 일일 고가치 타겟으로 제시했다.

    "미나브 시설은 오래된 데이터로 인해 IRGC 시설로 분류되었지만, 다른 후보들과 함께 마븐에 입력되어 일일 고가치 타겟으로 추천되었다." – Hacker News 댓글


민간인 피해 완화 팀이 대폭 축소되어 인간의 안전 점검이 사라짐

  • 페테 헤그세스 국방장관의 2025~2026년 개혁으로 국방부의 민간인 피해 완화(CHM) 인력이 약 90% 감축되어, 분석가 10명에서 단 1명으로 줄어들었다.
  • 공격 전에 미나브 시설에 대한 CHM 분석가의 검토가 이루어지지 않았으며, 이는 인력 감축과 계획에 CHM 팀 배제 정책의 직접적인 결과였다.
  • 역사적으로 CHM 검토는 민간 환경을 맵핑하고 비전투원의 존재를 평가하며, 낮은 위험의 공격 옵션을 제안했지만, 그 부재는 중요한 검증 단계를 상실하게 했다.

    "내부 조사에 참여한 관계자들에 따르면, 공격 전에 미나브 시설을 검토한 CHM 팀원은 없었다." – 블룸버그 보도


마븐의 AI는 결정자 역할을 하지 않았지만, 마치 결정자처럼 취급됨

  • 마븐은 지휘관을 위해 150개 이상의 데이터 스트림을 통합하여 종합적인 시각을 제공하지만, 과거 정보나 모순된 정보를 자동으로 경고하지 않는다.
  • 일부 센트컴 직원들은 마븐이 일관성 문제를 드러내기를 기대했지만, 시스템은 원천 데이터의 검증을 위한 설계가 되어 있지 않았다.
  • 팔란티어는 공급업체로서 데이터 품질이나 정보 부족에 대해 책임이 없다고 명시했다.

    "팔란티어는 원천 데이터에 대한 책임이 없으며, 정보 부족을 식별하는 것도 아니다." – 팔란티어 대변인


정확성보다 속도를 우선시하는 압박이 사살 체인을 가속화함

  • 트럼프 행정부는 24시간 내 1,000개 타겟을 공격하는 "압도적인 공중 작전"을 요구하며, 기존의 수시간에 걸친 사살 체인 과정을 분 단위로 압축했다.
  • 마븐의 자동화로 타겟 목록 작업 시간이 수시간에서 분 단위로 단축되었고, 일반적으로 각 후보를 교차 검증하고 재확인하는 시간이 사라졌다.
  • 급박한 환경은 정보 격차와 인력 감축의 영향을 더욱 증폭시켰다.

    "미리 계획된 타겟을 빠르게 공격하는 것은, 특히 공격이 선택적으로 시작되었을 때, 본질적으로 다른 문제다." – 로리 블랭크, 전 국방부 고문


법적 및 인도적 함의

  • 유엔 독립 국제 사실 조사위원회는 미국이 "이 학교가 군사적 목적지임을 확인하기 위해 가능한 모든 조치를 취해야 했음에도 실패했다"고 결론 내렸으며, 이 실패를 단순한 부주의를 넘어서는 것으로 평가했다.
  • 국제법은 당사자가 타겟의 군사적 성격을 확인하기 위해 가능한 모든 조치를 취해야 한다고 요구하며, 유엔 보고서는 미국이 이 기준을 충족하지 못했다고 주장한다.

    "제네바 협약은 실제로 군사적 목적지임을 확인하기 위해 가능한 모든 조치를 취해야 한다고 말한다." – ICC 경험 있는 변호사 페이암 아카하반


반응과 책임 요구

  • 120명 이상의 하원 민주당 의원들이 마븐의 역할에 대해 헤그세스 국방장관에게 답변을 요청했으나, 국방부는 공개적으로 응답하지 않았다.
  • 재커 린, 리처드 블루멘탈, 톰 틸리스 상원의원들은 의회 보고회를 요구하며 행정부의 투명성 부족을 비판했다.
  • Hacker News의 댓글들은 AI가 희생양으로 이용되고 있으며, 실제 책임은 인간 의사결정자와 체계적 인력 감축에 있음을 지적했다.

    "AI가 진짜 원인처럼 보이진 않는다. 그것은 희생양이다. 학교가 더 이상 군사적 목적지가 아니라는 정보는 타겟 데이터베이스에 입력되지 않았고, 타겟 목록을 검증할 책임이 있던 팀은 해체되었다..." – legitster (HN 댓글)


미래의 AI 기반 전쟁에 대한 시사점

  • 미나브 참사의 사례는, 데이터 품질, 감시, 기관적 보호 장치가 약할 경우 AI 도구가 기존 인간의 실수를 악화시킬 수 있음을 보여준다.
  • 팔란티어는 사후 재검토 기능을 추가했지만, 강력한 인간 검증이 없으면 유사한 실수의 위험은 여전히 존재한다.
  • 정책 입안자들은 AI 기반 사살 체인의 속도 이점을 고려하면서도, 필수적이고 충분한 인력이 투입된 민간인 피해 검토 절차를 마련해야 국제 인도법을 준수할 수 있다.

핵심 요약

  1. 오류가 있는 오래된 정보 – 명백한 위성 증거에도 불구하고 학교는 수년간 민간 사용이 확인된 상태로 잘못 분류되었다.
  2. 인력 감축으로 인한 핵심 인간 검증 소실 – CHM 팀의 해체로 민간인 사상 방지의 마지막 방어선이 사라졌다.
  3. 마븐은 데이터 검증을 위한 설계가 아님 – AI 플랫폼이 오래된 정보를 경고해주기를 기대하는 것은 그 기능에 대한 오해였다.
  4. 운영적 압박이 사살 체인을 급속화함 – 24시간 내 1,000개 공격을 요구하며 검증 절차가 압축되었다.
  5. 법적 판단은 부주의를 넘어서는 실패로 평가됨 – 유엔 보고서는 전쟁 범죄 책임 가능성을 시사한다.

미나브 학교 공격은 AI가 엄격한 데이터 거버넌스와 인간 감시 없이 도입될 경우, 평범한 무능이 대규모 인명 피해로 이어질 수 있음을 뼈저리게 보여주는 경고다.

Sources

관련