Anthropic, EU 범용 AI 실무 규범(General-Purpose AI Code of Practice)에 서명 예정

Anthropic은 프론티어 AI 개발의 투명성, 안전성 및 책임성을 증진하기 위해 유럽 연합의 범용 AI 실무 규범(General-Purpose AI Code of Practice)에 서명할 계획입니다. 이번 조치는 회사의 내부 안전 표준을 EU 규제 프레임워크와 일치시켜, 시스템적 위험을 완화하면서도 AI 배포를 가능하게 하기 위함입니다.

유럽의 경제적 영향 및 혁신

유연한 안전 표준은 유럽 연합 전역에서 AI의 광범위한 배포를 가능하게 하는 동시에 혁신을 보존하는 메커니즘으로 간주됩니다. 인용된 분석에 따르면, AI는 2030년대 중반까지 EU 경제에 연간 1조 유로 이상의 기여를 할 잠재력이 있습니다.

Anthropic은 유럽에서 AI가 이미 가시적인 성과를를 내고 있는 몇 가지 분야를 다음과 같이 식별했습니다:

• Pharmaceuticals: Novo Nordisk는 혁신적인 신약 개발을 가속화하기 위해 AI를 사용하고 있습니다.
• Legal Services: Legora는 법률 워크플로우를 혁신하고 있습니다.
• Public Governance: 유럽 의회는 시민들이 수십 년간의 기록물에 접근할 수 있도록 AI를를 사용하고 있습니다.

투명성 및 위험 완화 프레임워크

EU 실무 규범은 의무적인 안전 및 보안 프레임워크를 통해 AI 안전의 기준선을 설정합니다. 이러한 프레임워크는 기업이 화학, 생물학, 방사능 및 핵(CBRN) 무기와 관련된 재앙적 위험을 포함하여 시스템적 위험을 어떻게 식별, 평가 및 완화하는지 문서화할 것을 요구합니다.

Anthropic은 이러한 EU 요구 사항이 모델의 능력이 향상됨에 따라 위험을 관리하는 구조화된 접근 방식을 제공하는 자사의 기존 책임 있는 확장 정책(Responsible Scaling Policy, RSP)을 기반으로 구축된다고 언급했습니다.

유연성 및 협력적 거버넌스의 역할

AI 기술이 급격히 진화하기 때문에, Anthropic은 규제 정책이 유연하고 적응력이 있어야 한다고 강조합니다. 회사는 안전에 대한 자체적인 반복적 접근 방식을 강조하며, 업데이트된 위협 모델을 기반으로 ASL-3 보안 표준의 행위자 범위를 명확히 하는 등 구현 통찰력을 바탕으로 책임 있는 확장 정책(Responsible Scaling Policy)이 여러 차례 개선되었음을 언급했습니다.

이러한 유연성을 유지하기 위해, Anthropic은 다음과 같은 협력적 생태계를 옹호합니다:

• The EU AI Office: 실무 규범이 신기술에 신속하게 대응할 수 있도록 보장하기 위함입니다.
• Third-party organizations: Frontier Model Forum과 같은 그룹은 기술적 통찰력을 실행 가능한 정책으로 전환하는 공통 안전 관행 및 평가 표준을 수립하는 데 중요하다고 언급됩니다.