캐나다의 AI 전략과 Palantir 비밀 계약을 둘러싼 논란

AI 조달의 투명성은 민주적 감시를 위해 필수적이다

캐나다 국회의원 Al Vigier는 Palantir 소프트웨어에 대한 비밀 청구 방식의 사용으로 인해 캐나다의 국가 AI 전략이 훼손되고 있다고 우려를 표명했습니다. Vigier는 Palantir와 같이 광범위한 감시 능력을 갖춘 기업의 AI 도구 조달은 민주적 가치와 개인정보 보호법에 부합하는지 확인하기 위해 대중의 조사와 의회적 감시를 받아야 한다고 주장합니다.

비밀 계약과 공개 AI 전략 사이의 충돌

문제의 핵심은 캐나다 정부가 Palantir의 기술을 어떻게 결제하고 배치하는지에 대한 투명성 부족에 있습니다. 정부는 대중을 향한 공개적인 AI 전략을 홍보하고 있지만, 실제 구현 과정에서는 전통적인 공개 공시를 피하는 계약들이 포함되어 있습니다. 이는 AI 전략의 명시된 목표와 AI 도구가 정부 인프라에 통합되는 운영상의 현실 사이의 간극을 만들어냅니다.

Palantir 통합과 관련된 위험 요소

투명한 청구 방식이나 명확한 사용 지침 없이 정부 운영에 Palantir 소프트웨어를 통합하는 것은 다음과 같은 여러 위험을 초래합니다:

• 책임 소재의 부재: 비밀 청구는 의회와 대중이 AI 배치의 규모와 비용을 이해하는 것을 방해합니다.
• 개인정보 보호 우려: 데이터 집계 및 감시와 관련된 Palantir의 이력은 시민 데이터가 어떻게 처리되는지에 대한 투명성 부족을 특히 문제 삼게 만듭니다.
• 전략적 의존성: 독점적이고 불투명한 시스템에 의존하는 것은 벤더 종속(vendor lock-in)으로 이어질 수 있으며, 이는 향후 정부의 AI 전략을 전환할 수 있는 능력을 제한합니다.

공개적인 AI 거버넌스에 대한 요구

Al Vigier의 입장은 AI 전략은 그 거버넌스가 효과적인 만큼만 효과적이라는 것입니다. 그는 캐나다가 AI 분야를 선도하기 위해서는 법치주의와 조달 과정의 투명성에 대한 의지를 보여주어야 한다고 단언합니다. 여기에는 "비밀 청구"에서 벗어나 모든 AI 관련 지출과 소프트웨어 배치가 대중과 입법부에 완전히 공개되어야 함을 의미합니다.