알고리즘적 사형 선고: 이스라엘의 AI 표적 시스템 내부를 들여다보다

현대 전쟁에 인공지능을 통합하는 것은 더 이상 이론적인 우려가 아닙니다. 그것은 운영상의 현실입니다. 최근 보고서들은 이스라엘 군이 정교한 AI 표적 시스템을 사용하고 있음을 강조해 왔으며, 여기서 모바일 폰에서 수집된 데이터는 개인을 식별하고 표적화하는 데 사용됩니다. 자동화된 표적 획득으로의 이러한 전환은 군사 작전이 수행되는 방식의 근본적인 변화를 나타내며, 전통적인 정보 수집에서 치명적인 무력을 사용하는 고속 데이터 기반 접근 방식으로 이동하고 있습니다.

AI 표적화의 메커니즘

이러한 시스템의 핵심에는 방대한 양의 신호 정보(SIGINT)와 인적 정보(HUMINT)를 처리하도록 설계된 알고리즘이 있습니다. 통신 패턴, 위치 데이터, 사회적 연결을 분석함으로써 AI는 개인을 정당한 표적으로 표시할 수 있습니다. 이 프로세스는 종종 전화기의 데이터—메타데이터, 통화 기록, 그리고 잠재적으로 암호화된 메시지—에서 시작되며, 시스템은 이를 다른 가용한 데이터 포인트와 상관관계 분석하여 '표적 뱅크'를 생성합니다.

AI에 의해 한 사람이 표적으로 표시되면, 시스템은 식별에서 타격까지의 타임라인을 가속화할 수 있습니다. 이러한 자동화는 정보 수집과 공격 실행 사이의 지연 시간을 줄여주며, 이는 군사적 관점에서 시스템의 효율성을 크게 증가시키지만, 시스템의 정확성과 전투원과 비전투원을 구분하는 AI의 능력에 관한 심오한 윤리적 및 법적 우려를 불러일으킵니다.

인간 개입(Human-in-the-Loop)의 딜레마

이러한 AI 시스템을 옹호하는 주요 논거 중 하나는 표적을 확인하기 위해 종종 '인간 개입(human-in-the-loop)'을 포함한다는 것입니다. 그러나 비판론자들은 이러한 인간의 감독이 종종 명목상의 제스처에 불과하다고 주장합니다. 시스템이 인간의 인지 능력을 초과하는 규모와 양으로 표적을 처리할 때, 인간 운영자는 알고리즘적 결정에 대한 승인 도구(rubber stamp)가 되어 버립니다. '자동화 편향(automation bias)'으로 알려진 이 현상은 인간이 자신의 판단보다 시스템의 출력값을 신뢰하는 경향을 의미하며, 이는 잠재적으로 재앙적인 오류로 이어질 수 있습니다.

지정학적 및 사회적 결과

즉각적인 전술적 이점 외에도, 표적화에 AI를 사용하는 것은 장기적인 전략적 위험을 초래합니다. 죽음의 자동화는 적에 대한 비인인간화이며, 이는 민간인 사상자의 증가 가능성과 더 큰 규모의 파괴를 초래할 수 있습니다.

이러한 시스템에 관한 커뮤니티 논의는 깊은 사회적 영향을 강조합니다. 일부 관찰자들은 이러한 기술의 사용이 더 큰 불안정성을 초래하는 촉매제가 될 수 있다고 언급합니다. 한 댓글 작성자가 언급했듯이:

테러리즘을 더 많이 "생산"하는 방식일 뿐입니다.

나아가, 이러한 갈등의 프레임워크는 종종 동일한 폭력의 패턴을을 숨깁니다. 비판론자들은 보고서에서