전쟁부의 AI 배치 및 안전장치에 관한 Anthropic의 성명

Anthropic은 대규모 국내 감시 및 완전 자율 무기에 대한 안전장치를 유지합니다

Anthropic은 미국 전쟁부(Department of War)가 회사를 "공급망 리스크(supply chain risk)"로 지정하거나 국방물자생산법(Defense Production Act)을 발동하겠다는 위협에도 불구하고, 대규모 국내 감시 및 완전 자율 무기에 관한 특정 안전 가드레일을 제거하기를 거부하고 있습니다. 회사는 이러한 안전장치가 민주적 가치를 보호하고 전투원과 민간인의 안전을 보장하기 위해 필수적이라는 입장을 유지하고 있습니다.

국가 안보 분야에서의 Claude 배치

Anthropic은 미국 정부의 기밀 네트워크, 국립 연구소 및 국가 안보 기관에 Claude 모델을 선제적으로 통합해 왔습니다. Anthropic은 이러한 배치를 달성한 최초의 프런티어 AI 기업이며, 국가 안보 고객을 위해 특별히 맞춤화된 모델을 제공합니다.

Claude는 현재 다음과 같은 여러 미션 크리티컬(mission-critical) 애플리케이션에 사용되고 있습니다:

정보 분석
모델링 및 시뮬레이션
작전 계획
사이버 작전

국가 안보 및 수출 통제

AI 분야에서 민주적 우위를 유지하기 위해, Anthropic은 단기적 수익보다 국가 안보를 우선시하는 여러 조치를 취해 왔습니다:

수익 포기: 회사는 전쟁부가 중국 군사 기업으로 지정한 엔티티를 포함하여, 중국 공산당(CCP)과 연계된 기업들에 대한 Claude의 접근을 차단함으로써 수억 달러의 수익을 포기했습니다.
사이버 방어: Anthropic은 Claude를 겨냥한 CCP 후원 사이버 공격을 차단했습니다.
정책 옹호: 회사는 독재적 적대국들이 AI 주도권을 잡는 것을 방지하기 위해 칩에 대한 강력한 수출 통제를 옹호해 왔습니다.

특정 사용 사례 제한

Anthropic은 군사적 결정이나 특정 작전에 간섭하지는 않지만, 전쟁부와의 계약에서 두 가지 엄격한 예외 사항을 유지한다고 밝히고 있습니다:

대규모 국내 감시

Anthropic은 AI를 대규모 국내 감시에 사용하는 것에 반대하며, 이것이 민주적 가치와 양립할 수 없다고 주장합니다. 회사는 AI가 이동 기록, 웹 브라우징, 관계와 같이 개별적으로는 무해한 흩어진 데이터들을 대규모로 자동 수집하여 한 개인의 삶에 대한 포괄적인 그림을 그려낼 수 있으며, 이는 기본적 자유에 새로운 위험을 초래한다고 단언합니다.

완전 자율 무기

Anthropic은 인간의 개입 없이 표적을 선택하고 교전하는 시스템인 완전 자율 무기에 전력을 공급하는 것을 거부합니다. 회사는 이 제한에 대해 두 가지 주요 이유를 들고 있습니다:

신뢰성: 프런티어 AI 시스템은 현재 전투원과 민간인을 위험에 빠뜨리지 않고 이러한 무기에 전력을 공급할 만큼 충분히 신뢰할 수 없습니다.
감독 부족: 적절한 가드레일과 감독 없이는 이러한 시스템이 전문 군인이 보여주는 결정적인 판단력을 발휘할 수 없습니다.

Anthropic은 시스템 신뢰성을 향상시키기 위해 전쟁부와 R&D 분야에서 협력할 의사가 있다고 제안했으나, 그 제안은 수용되지 않았습니다.

전쟁부와의 갈등

전쟁부는 Anthropic이 "모든 적법한 사용"에 동의하고 앞서 언급한 안전장치를 제거할 것을 요구해 왔습니다. 이를 준수하지 않을 경우 다음과 같은 위협이 따를 것이라고 밝혔습니다:

정부 시스템에서 Anthropic을 제외함.
일반적으로 미국의 적대국에게 부여되는 라벨인 "공급망 리스크"로 지정함.
안전장치 제거를 강제하기 위해 국방물자생산법을 발동함.

Anthropic은 회사의 기술이 국가 안보에 필수적으로 간주되는 동시에 회사가 보안 리스크로 낙인찍히고 있다는 점에서 이러한 위협이 모순적이라고 설명합니다. 이러한 위협에도 불구하고 Anthropic은 "양심상" 안전장치를 제거할 수 없다고 밝히고 있습니다. 만약 부처가 회사를 해지하기로 결정한다면, Anthropic은 군사 계획이나 중요한 임무가 중단되지 않도록 다른 제공업체로의 원활한 전환을 보장하기로 약속했습니다.