AI를 사용해 증거를 만든 혐의로 조사받는 더비셔 경찰관

AI 생성 증거가 경찰 조사로 이어짐

더비셔 경찰의 한 경찰관이 여러 범죄 사건에서 인공지능을 사용해 증거를 만든 혐의로 현재 조사 중입니다. 이 사건은 디지털 증거의 보관 체인에 대한 중대한 취약점과 AI 도구가 법적 문서나 시각 자료를 위조하는 데 악용될 가능성을 강조합니다.

해당 경찰관이 만든 “증거 자료”의 정확한 성격은 더비셔 경찰이 완전히 공개하지 않았습니다. 그러나 외부 보고서와 법적 해석은 이것이 무엇을 의미할 수 있는지에 대한 맥락을 제공합니다:

증인 진술: Financial Times의 보고에 따르면, 이 맥락에서 “증거 자료”라는 용어는 증인 진술을 설명하는 데 사용될 수 있으며, 이는 AI가 서면 증언을 생성하거나 변경하는 데 사용되었을 가능성을 시사합니다.
이미지 향상 vs. 위조: 기술 관찰자들 사이의 논의는 증거를 “무에서 유”로 악의적으로 생성하는 것과 AI “향상” 도구를 오용하는 것 사이의 구분을 제시합니다. 일부는 해당 경찰관이 흐릿한 이미지의 빈틈을 메우기 위해 AI를 사용했을 수 있다고 주장하는데—이 과정은 원본 데이터를 복구하는 것이 아니라 새로운 픽셀을 생성하는 것으로, 기술적으로는 새로운 증거를 만든 것에 해당합니다.

AI를 사용해 증거를 위조하는 것은 사법 시스템에 체계적인 위험을 초래하며, 특히 디지털 증거의 진위성에 관한 문제를 야기합니다.

고품질 이미지 및 비디오 생성 도구의 가용성이 증가함에 따라 전체 디지털 증거 계층이 신뢰할 수 없게 될 것이라는 우려가 커지고 있습니다. AI가 범죄나 증인 진술을 설득력 있게 시뮬레이션할 수 있다면, 진위성을 입증하기 위한 기준이 높아져야 합니다.

증거 위조에 대응하기 위해 경찰 및 언론 카메라에 하드웨어 수준 서명과 “콘텐츠 인증”을 의무적으로 구현하자는 요구가 있습니다. 이러한 시스템은 촬영 순간부터 진위성에 대한 암호화된 추적을 제공하여 AI 생성 수정이 감지 없이 삽입되기 어렵게 만듭니다.

경찰관이 증거를 위조한 것으로 밝혀지면 그 영향은 단일 사건을 넘어섭니다. 법률 분석가와 관찰자들은 이러한 경우가 발생하면 해당 경찰관이 담당한 모든 사건을 자동으로 재검토하여 다른 유죄 판결이 위조된 데이터에 기반하지 않았는지 확인해야 한다고 제안합니다.

“위조된 증거, 조작된 증거, 그리고 불법적인 병행 구성 사이에서 얼마나 많은 사람들이 부당하게 투옥되었는지 궁금합니다…”

이 감정은 AI가 새로운 유형의 위법 행위를 창출하는 것이 아니라 기존의 증거 조작 관행에 더 효율적인 도구를 제공한다는 더 넓은 우려를 반영합니다.