Anthropic의 미국 과학기술정책본부(OSTP)를 위한 AI 행동 계획 제안

요약

Anthropic는 2026년 말에서 2027년 초에 예상되는 강력한 AI 시스템에 대비하기 위해 보안 테스트, 수출 통제, 연구소 보안, 에너지 인프라, 정부 AI 활용, 경제 데이터 수집 분야에서 즉각적인 조치가 필요하다고 주장하며, 미국 과학기술정책본부(OSTP)에 6가지 제안을 제출했다.

강력한 AI의 예상 도래

Anthropic는 생물학, 컴퓨터 과학, 수학, 공학 분야에서 노벨상 수상 수준의 전문 지식을 갖춘 AI 시스템이 2026년 말 또는 2027년 초에 등장할 것으로 예측한다. 이러한 시스템은 다음과 같은 특징을 가질 것으로 기대된다.

대부분의 과학 분야에서 최고 수준의 인간 지적 성과를 따라가거나 초월한다.
텍스트, 오디오, 비디오, 키보드, 마우스, 인터넷 탐색 등 모든 디지털 인터페이스를 통해 작동한다.
필요한 경우 설명을 요청하며, 매우 능력 있는 직원처럼 장기간에 걸쳐 자율적으로 추론한다.
디지털 연결을 통해 실험실 장비, 로봇, 제조 도구와 같은 물리적 장비를 제어할 수 있다.

Anthropic는 자체의 Claude 3.7 Sonnet 및 Claude Code 출시와 다른 선도 연구소들의 유사한 진전을 근거로, 이러한 강력한 AI로의 추세가 가속화되고 있다고 지적한다.

핵심 정책 제안 6가지

Anthropic의 제안은 경제적 이익을 창출하고, 국가 안보를 보호하며, AI의 성과를 넓게 분배하는 데 초점을 맞춘 6개 분야에 집중한다.

1. 국가 안보 테스트

정부 기관은 국내외 AI 모델의 보안 리스크를 평가할 수 있는 강력한 역량을 구축해야 한다.

표준화된 평가 프레임워크 개발
안전한 테스트 인프라 구축
배포된 시스템의 취약점을 분석할 전문 팀 구성

2. 수출 통제 강화

고성능 반도체의 수출 제한을 강화하여 AI 인프라가 적대적 세력의 손에 넘어가지 않도록 해야 한다.

고성능 H2O 칩 통제
대규모 칩 배치를 수행하는 국가와 정부 간 협정 요구
라이선스 요구 조건을 유발하는 기준 낮추기

3. 연구소 보안 강화

AI 연구소는 정보기관과 기밀 통신 채널을 갖춘 전략적 자산으로 간주되어야 한다.

산업 전문가를 위한 신속한 보안 인증 절차 마련
AI 인프라를 위한 차세대 보안 기준 개발

4. 에너지 인프라 확장

선도적인 AI 개발을 지속하기 위해 2027년까지 전용 전력 50GW의 야심 찬 목표 달성이 필요하다.

새로운 전력 프로젝트에 대한 허가 및 승인 절차 간소화

5. 정부 AI 도입 가속화

연방 정부는 AI 증강이 도움이 될 수 있는 업무 프로세스를 정리하고, 기관 책임자들에게 고영향 프로그램을 구현하도록 지시해야 한다.

정부 전체의 AI 준비도 평가 실시
명확한 공공 이익을 제공하는 프로젝트 우선순위 지정

6. 경제적 영향 대비 준비

AI로 인한 노동 시장과 전체 경제의 변화를 모니터링하고 대응할 수 있도록 경제 데이터 수집 메커니즘을 현대화해야 한다.

인구 조사국 설문조사 및 관련 데이터 파이프라인 업데이트
대규모 경제 전환 가능성에 대한 계획 수립

Anthropic의 이전 정책 활동과의 일치성

이 제안들은 Anthropic가 이전에 제시한 책임 있는 규모 확대 정책과 제3자 테스트 프레임워크에 대한 주장을 확장한 것이다. 연구소는 혁신을 장려하면서도 점점 더 강력해지는 AI 시스템이 초래하는 심각한 위험을 완화하는 균형 잡힌 접근을 강조한다.

전체 제안서 접근

자세한 구현 전략을 포함한 완전한 제안서는 Anthropic 응답 PDF에서 확인할 수 있다.

관련 Anthropic 발표 내용:

Fable 5의 생물학 안전장치 개선 – 자세히 보기
Mariano-Florentino (Tino) Cuéllar, 글로벌 업무 최고 책임자로 임명 – 자세히 보기