앤트로픽, AI 안전성 수준 3(ASL-3) 보호 기능 활성화

앤트로픽, 클로드 오퍼스 4에 ASL-3 보호 기능 활성화

앤트로픽은 클로드 오퍼스 4 출시를 위해 AI 안전성 수준 3(ASL-3) 배포 및 보안 기준을 활성화했습니다. 이 조치는 모델의 능력이 지속적으로 향상됨에 따라 화학, 생물학, 방사선, 핵(CBRN) 무기와 관련된 ASL-3 위험을 완전히 배제할 수 없기 때문에 취해진 예방적이고 일시적인 조치입니다.

책임 있는 규모 확장 정책(RSP) 프레임워크

앤트로픽의 AI 안전성 수준(ASL) 기준은 책임 있는 규모 확장 정책(RSP)에 의해 규제되며, 모델이 특정 "능력 한계"에 도달할 때마다 더 높은 수준의 보호를 요구합니다.

배포 조치: 이러한 조치는 주로 CBRN 무기 개발 또는 확보와 관련된 특정 유형의 오용을 타깃으로 하며, 위험을 줄이는 데 초점을 맞춥니다.
보안 통제: 모델 가중치 도용을 방지하기 위해 설계되었으며, 이는 AI의 핵심 지능을 나타냅니다.

이전 모든 모델은 기본 AI 안전성 수준 2(ASL-2) 기준 하에 배포되었지만, 클로드 오퍼스 4는 처음으로 ASL-3 기준 하에 배포됩니다. 앤트로픽은 클로드 오퍼스 4에 대해 ASL-4 기준이 필요하지 않다고 판단했으며, 클로드 손넷 4는 ASL-3 보호 기능이 필요하지 않다고 결정했습니다.

ASL-3 배포 조치: CBRN 오용 방지

ASL-3 배포 조치는 클로드 오퍼스 4가 대규모 언어 모델 없이 불가능한 추가적인 가치를 제공하는 종단 간 CBRN 워크플로우를 지원하는 것을 방지하는 데 집중됩니다. 이러한 조치는 특히 "일반적 제거 공격(유니버설 재킷브리크)"을 타깃으로 하며, 이는 장기적인 CBRN 관련 정보를 추출하는 데 사용되는 체계적인 공격입니다.

이를 달성하기 위해 앤트로픽은 세 가지 구성 요소로 이루어진 전략을 구현했습니다:

1. 재킷브리크에 대한 시스템 강화

앤트로픽은 헌법 분류기(Constitutional Classifiers)를 사용하며, 이는 유해하고 무해한 CBRN 관련 프롬프트 및 완성 데이터의 합성 데이터를 기반으로 훈련된 실시간 보호 장치입니다. 이러한 분류기는 입력과 출력을 모니터링하여 중간 정도의 컴퓨팅 부하로 유해한 CBRN 정보를 차단합니다.

2. 재킷브리크 탐지

헌법 분류기를 스트레스 테스트하기 위한 버그 보상 프로그램을 운영함으로써 모니터링을 강화하였으며, 오프라인 분류 시스템과 위협 정보 파트너십을 통해 일반적 재킷브리크를 신속하게 식별합니다.

3. 반복적인 방어 개선

앤트로픽은 발견된 공격을 모방하는 합성 재킷브리크를 생성하고, 이를 활용해 업데이트된 분류기를 훈련함으로써 재킷브리크를 보완합니다.

ASL-3 보안 통제: 모델 가중치 보호

ASL-3 보안 통제는 모델 가중치를 도용하려는 정교한 비국가 행위자에 대응하기 위해 설계되었습니다. 이 프레임워크는 예방과 탐지 기능을 결합한 100개 이상의 보안 통제를 포함합니다.

주요 보안 조치는 다음과 같습니다:

표준 최선의 실천 방법: 가중치 접근에 대한 이중 당사자 승인, 강화된 변경 관리 프로토콜, 엔드포인트 소프트웨어에 대한 바이너리 허용 목록
이그레스 대역폭 통제: 보안 컴퓨팅 환경 외부로 데이터가 흐르는 것을 제한하는 특수 통제입니다. 모델 가중치는 크기가 크기 때문에, 외부 네트워크 트래픽을 제한함으로써 비정상적인 대역폭 사용을 감지하고 도용 시도를 차단할 수 있습니다.

구현 근거 및 미래 전망

앤트로픽은 이러한 방어 기능이 의무화되기 전에 미리 정교화하기 위해 ASL-3 보호 기능을 사전에 구현했습니다. 회사는 위험한 능력 평가가 어렵고, 모델이 우려되는 한계에 가까워질수록 정확한 상태를 판단하는 데 더 오랜 시간이 걸린다고 지적합니다.

추가 평가 결과 클로드 오퍼스 4가 관련 능력 한계를 초과하지 않았다는 결론이 내려질 경우, 앤트로픽은 이러한 ASL-3 보호 기능을 조정하거나 제거할 수 있습니다. 회사는 이러한 조치를 지속적으로 개선하고 산업 파트너, 정부, 시민 사회와 협력하여 AI 보호 방법을 향상시키는 것을 목표로 하고 있습니다.