Flock Safety AI 감시: 번호판 인식 그 너머

Flock Safety는 미국 전역에 100,000대가 넘는 자동 번호판 인식기(ALPR)를 배치했지만, 이 장치들은 단순한 번호판 인식기가 아니라 포괄적인 AI 감시 허브로 작동합니다. 자연어 처리와 AI 기반 객체 탐지를 활용함으로써, 시스템은 법 집행 기관이 "미국 국기 스티커가 붙은 초록색 세단"과 같은 특정 차량 특성을 검색하거나 개인 및 차량이 아닌 객체를 추적할 수 있게 하여, 용의자뿐 아니라 무고한 시민까지 추적하는 광범위한 감시 네트워크를 구축합니다.

AI 기반 감시 기능

Flock Safety 카메라는 본질적으로 수정된 Android 버전을 실행하는 작은 컴퓨터입니다. 이들은 영상을 중앙 데이터베이스로 전송하고, AI가 데이터를 카탈로그화하여 자연어 검색이 가능하도록 합니다. ALPR이 기본 기능이지만, 시스템의 능력은 훨씬 더 확장됩니다:

• 자연어 검색: 사용자는 번호판 번호 대신 "왼쪽에 페인트 스크래치가 있는 픽업 트럭"과 같은 구체적인 시각적 설명으로 검색할 수 있습니다.
• 광범위한 객체 탐지: 장치에서 추출된 코드에 따르면 "고양이", "개", "사람", "자전거" 등 다양한 객체 탐지 카테고리가 포함되어 있습니다.
• 다양한 하드웨어: 제품 라인에는 AI 보안 카메라, 이동식 보안 트레일러, 쿼드콥터 드론이 포함되며, 모두 동일한 AI‑검색 원칙으로 작동합니다.
• 기관 간 데이터 공유: 많은 부서가 전국 네트워크에 가입해 한 주의 경찰이 다른 주의 영상을 검색할 수 있습니다. ICE와 국토안보부 등 연방 기관도 지방 경찰과의 데이터 공유 프로그램을 통해 접근 권한을 얻는 경우가 많습니다.

심각한 보안 취약점

회사 측의 보증에도 불구하고, 독립 연구자들은 Flock의 하드웨어와 소프트웨어에 중대한 보안 결함이 있음을 밝혀냈습니다. 연구원 Benn Jordan은 수십 대의 카메라가 비밀번호 보호 없이 인터넷에 노출돼 누구나 공공 장소에서 사생활을 침해하는 실시간 영상을 볼 수 있었다고 보고했습니다.

추가적인 기술적 악용 사례에서는 카메라에 물리적으로 접근하면 Android 개발 도구를 통해 루트 권한을 얻을 수 있음을 입증했습니다. 연구진은 카메라가 Wi‑Fi를 통해 디버깅될 수 있고, 노출된 포트를 통한 악성 USB 드라이브에 취약해 감시 네트워크에 악성코드를 설치할 수 있다고 밝혔습니다.

문서화된 경찰 남용 및 체계적 학대

데이터베이스 검색에 대한 엄격한 가드레일과 영장 요구가 없기 때문에 법 집행 기관에 의한 남용이 광범위하게 발생하고 있습니다. 404 Media의 보도에 따르면, 경찰관들이 전 연인이나 특정 개인을 스토킹하기 위해 Flock 네트워크를 이용한 사례가 수십 건 보고되었습니다.

내부 학대 사례도 보고되었습니다. 한 사례에서는 Flock 직원들이 애틀랜타 마커스 유대인 커뮤니티 센터의 수영장 및 체조 수업에 있는 어린이들의 카메라 피드를 무단으로 열람한 뒤, 해당 영상을 다른 경찰서에 대한 영업 시연에 사용한 것으로 전해졌습니다.

정확도 문제와 오탐

AI 오작동으로 무고한 시민이 용의자로 몰리는 사례가 발생했습니다. 콜로라도 주 덴버에서는 한 여성이 Flock 카메라 데이터에 근거해 절도 혐의로 소환장을 받았으나, 자신의 차량에 장착된 카메라 영상을 통해 무죄를 입증했습니다. 또 다른 운전자들은 번호판의 숫자 "0"을 문자 "O"로 오인한 AI 때문에 반복적으로 경찰 단속을 받았으며, 이들은 "핫리스트"에서 제외될 수 없는 상황에 처했습니다.

제도적 지속성과 대중 반대

도시들은 제한적인 계약 조건과 법 집행 기관을 향한 공격적인 마케팅 때문에 대중의 항의와 기술적 실패에도 불구하고 Flock 계약을 유지하는 경우가 많습니다. 오하이오 주 데이턴, 일리노이 주 에번스턴 등에서는 카메라를 제거하면 계약 위반이 될까 우려해 카메라를 쓰레기봉투로 덮어두기도 했습니다.

일부는 공공 장소에서는 사생활 기대가 없다고 주장하지만, 비판가와 지역 조직가들은 사기업에 의한 대규모 감시의 체계적 위험을 지적합니다. 이러한 시스템을 철폐하려는 움직임이 확산되고 있으며, 지역 사회 조직과 시 의회의 옹호를 통해 70건이 넘는 "성공" 사례—도시가 Flock 시스템을 거부하거나 제거한 사례—가 문서화되었습니다.

"Flock은 건강한 사회에 설 자리가 없습니다. '해커'라면 일반 대중이 기대하지 않는 수준까지 이해해야 합니다."

주요 위험 요약

위험 카테고리	영향
프라이버시	자연어 AI 검색을 통한 비용용자 추적이 광범위하게 이루어짐.
보안	물리적 포트를 통한 루트 접근 및 인증되지 않은 인터넷 노출.
책임성	검색에 대한 영장 부재; 경찰에 의한 문서화된 스토킹 사례.
신뢰성	AI 오인으로 인한 부당한 경찰 정지 및 소환장 발부.

Summary

Flock Safety의 AI 기반 카메라는 번호판을 넘어 차량과 사람에 대한 자연어 검색을 가능하게 하며, 광범위한 보안 취약점과 경찰 남용 사례에 직면해 있습니다.

Title

Flock Safety AI 감시: 번호판 인식 그 너머