Anthropic Frontier Model Security Framework

TL;DR

Anthropic은 프론티어 AI 모델을 위한 일련의 사이버 보안 모범 사례를 제안했습니다. 이러한 모델의 전략적 중요성을 고려할 때, 표준 상용 기술을 넘어서는 보안 수준이 필요함을 강조합니다. 이 프레임워크는 핵심 인프라에 대한 양자 제어(two-party control)와 모델 가중치 및 연구를 도난이나 오용으로부터 보호하기 위한 보안 소프트웨어 개발 표준의 채택을 중심으로 합니다.

Multi-Party Authorization for AI-Critical Infrastructure

Anthropic은 단일 개인이 운영에 필수적인 환경에 지속적으로 접근할 수 없는 보안 패턴인 "양자 제어(two-party control)"를 옹호합니다. 접근 권한을 얻으려면 개인은 동료에게 시간 제한이 있는 권한을 요청하고 비즈니스 정당성을 제공해야 합니다.

Anthropic이 multi-party authorization to AI-critical infrastructure design이라고 부르는 이 접근 방식은 내부자 위험을 완화하고 고도화된 위협 행위자에 대응하기 위한 의 것입니다. Anthropic은 이 패턴이 금융 서비스, 의료 기기 제조(ISO 13485), 식품 안전(ISO 22000)과 같은 고보안 도메인에서 이미 흔히 사용되고 있으며, 자원이 제한된 신생 AI 연구소에도 적용 가능하다고 언급합니다.

Secure Model Development Framework

AI 시스템의 무결성과 출처를 보장하기 위해, Anthropic은 기존 소프트웨어 보안 표준에 기반한 secure model development framework의 채택을 권장합니다. 구체적으로, 이 연구소는 두 가지 골드 표준 프레임워크를 지목합니다:

NIST Secure Software Development Framework (SSDF): 출시된 소프트웨어의 취약점 수를 줄이기 위한 일련의 관행.
Supply Chain Levels for Software Artifacts (SLSA): 소프트웨어 아티팩트의 무결성을 보장하기 위한 프레임워크.

Anthropic은 모델을 제작하고 배포하는 것이 소프트웨어를 구축하고 배포하는 것과 기능적으로 동일하다고 주장합니다. SSDF와 SLSA를 구현함으로써, 연구소는 "관리 체계(chain of custody)"를 구축할 수 있으며, 이를 통해 배포된 모델이 이를 개발한 회사와 연결될 수 있도록 합니다. Anthropic은 NIST가 표준 설정 과정에서 모델 개발을 명시적으로 포함하도록 SSDF를 확장할 것을 권장합니다.

Public-Private Cooperation and Regulatory Approach

Anthropic은 프론티어 AI 연구를 금융 서비스 분야와 유사하게 "핵심 인프라"로 취급해야 한다고 제안합니다. 이러한 지정은 정부 기관과 AI 연구소 간의 강화된 정보 공유 및 협력을 촉도하여, 자원이 풍부한 악의적인 행위자에 더 잘 대응할 수 있도록 할 것입니다.

구현에 관하여, Anthropic은 단계별 도입 방식을 제안합니다:

Voluntary Arrangements: 초기 보안 조치는 연구소 간의 자발적인 협약으로 시작할 수 있습니다.
Procurement Requirements: 정부는 조달 가이드라인(EO 14028과 유사)을 사용하여 정부와 계약하는 AI 기업 및 클라우드 제공업체에 대해 이러한 보안 표준을 의강할 수 있습니다.
Regulatory Mandates: 시간이 지남에 따라, 정부의 규제 권한을 사용하여 산업 전반에 대해 준수 사항을 의무화할 수 있습니다.

Implementation Status

Anthropic은 현재 양자 제어, SSDF, SLSA를 구현하고 있습니다. 회사는 보안 조치가 때때로 생산성을 저해할 수 있지만, 모델의 능력이 확장됨에 따라 이러한 예방 조치는 필수적이며, 산업 및 정부 파트너와의 협력을 통해 지속적인 개선 과정을 거칠 것이라고 인정합니다.