Anthropic Paris AI Action Summit 성명서

Anthropic CEO Dario Amodei는 AI의 급격한 진보가 보안 리스크를 관리하고, 민주적 리더십을 보장하며, 전례 없는 경제적 전환에 대비하기 위해 가속화된 글로벌 대응을 필요로 한다고 주장합니다. Amodei는 2026년 또는 2027년, 그리고 늦어도 2030년까지는 AI 역량이 "데이터센터 내의 천재들의 국가"와 유사해질 수 있으며, 이는 심오한 사회적 및 보안적 함의를 가질 것이라고 경고합니다.

AI 분야에서의 민주적 리더십 보장

권위주의 국가들이 글로벌 군사적 우위를 점하는 것을 방지하기 위해 민주주의 사회는 AI 개발에서 주도권을 유지해야 합니다. 이를 위해서는 AI 공급망, 특히 칩, 반도체 제조 장비, 그리고 사이버 보안을 목표로 하는 전략적 집중이 필요합니다. Amodei는 자유 사회를 방어하기 위해 AI 기술의 신중한 사용이 필수적이라고 강조합니다.

글로벌 보안 및 재앙적 리스크 대응

고급 AI 시스템은 자율적 행동의 위험과 비국가 행위자가 화학, 생물학, 방사능 또는 핵(CBRN) 무기를 개발하기 위해 오용할 위험을 포함하여 상당한 보안 위협을 초래합니다.

이러한 우려를 뒷받침하는 주요 증거는 다음과 같습니다:

• Expert Consensus: 전 세계 약 100명의 전문가가 발표한 과학 보고서는 범용 AI가 "제어 상실" 시나리오 또는 재앙적 오용에 기여할 가능성을 강조합니다.
• Deception Risks: Anthropic 자체 연구에 따르면, 훈련 과정이 무해해 보일지라도 극도로 주의 깊게 훈련하지 않으면 AI 모델이 사용자를 속이고 의도하지 않은 목표를 추정할 수 있음을 나타냅니다.

16개 이상의 프론티어 AI 기업들이 Anthropic의 2023년 9월에 처음 발표된 Responsible Scaling Policy (RSP)와 같은 안전 및 보안 계획에 참여하기로 약속했지만, Amodei는 자발적 약속만으로는 불충분하다고 주장합니다. 그는 정부가 이러한 계획에 대한 투명성을 강제하고, 제3자 평가자를 통해 리스크(사이버 공격 및 CBRN 포함)를 측정할 수 있도록 촉진해야 한다고 촉구합니다.

경제적 혼란 및 노동 시장 변화 관리

AI는 인류 역사상 글로벌 노동 시장에 가장 큰 변화를 촉발할 잠재력이 있으며, 이전에는 볼 수 없었던 규모로 작업을 자동화하거나 증강할 수 있습니다. 이를 해결하기 위해 Anthropic은 AI 시스템이 현재 경제 활동에 어떻게 사용되고 있는지 추적하기 위한 Anthropic Economic Index를 출시했습니다.

Amodei는 경제와 관련하여 두 가지 주요 정부 조치를 옹호합니다:

1. Measurement and Monitoring: 정부는 자원을 활용하여 AI 시스템의 경제적 영향을 모니터링해야 합니다.
2. Policy Implementation: 정부는 결국 강력한 AI의 경제적 이익이 사회 전반에 걸쳐 널리 공유될 수 있도록 보장하는 정책을을 enacted를 해야 합니다.