Anthropic의 캘리포니아 SB 53 지지

Anthropic은 강력한 AI 시스템 개발을 규제하기 위한 입법 노력인 캘리포니아 상원 법안 53(SB 53)을 공식적으로 지지했습니다. 이 법안은 이전의 규제 시도에서 볼 수 있었던 규정적인 기술적 명령을 부과하지 않으면서, 파괴적인 위험을 완화하기 위해 프론티어 AI 개발자들에게 의무적인 투명성 및 공개 프레임워크를 구축하는 것을 목표로 합니다.

SB 53의 핵심 요구 사항

SB 53은 규제 초점을 "trust but verify" 방식으로 전환하여, 가장 강력한 AI 시스템을 개발하는 대기업들이 다음과 같은 명령을 준수하도록 요구합니다:

• Safety Frameworks: 개발자는 파괴적인 위험(실질적인 금전적 손실이나 대규모 인명 피해를 초래할 수 있는 위험으로 정의됨)을 어떻게 관리, 평가 및 완화하는지 상세히 설명하는 안전 프레임워크를 작성하고 공개해야 합니다.
• Transparency Reports: 새로운 강력한 모델을 배포하기 전에, 기업들은 파괴적인 위험 평가를 요약한 공개 보고서를 발표하고 안전 프레임워크를 이행하기 위해 취한 조치를 공개해야 합니다.
• Incident Reporting: 중대한 안전 사고는 15일 이내에 주 정부에 보고되어야 합니다. 또한, 개발자는 내부적으로 배포된 모델로부터 발생할 수 있는 파괴적인 위험의 잠재성에 관한 평가 요약본을 기밀로 공개해야 합니다.
• Whistleblower Protections: 이 법안은 이러한 요구 사항을 위반하거나 파괴적인 위험에서 비롯된 공중 보건 및 안전에 대한 구체적이고 실질적인 위험을 보고하는 직원들에게 법적 보호를 제공합니다.
• Public Accountability: 기업들은 프레임워크에서 약속한 사항에 대해 법적 책임을 지며, 미준수 시 금전적 처벌을 받을 수 있습니다.

범위 및 산업계 정렬

SB 53은 가장 강력한 AI 시스템을 개발하는 대기업을 대상으로 하며, 스타트업과 소규모 기업이 불필요한 규제 부담을 피할 수 있도록 면제 조항을 제공합니다.

Anthropic은 이러한 요구 사항이 이미 여러 프론티어 랩(frontier labs)에서 채택한 관행을 공식화하는 것이라고 언급합니다. 예를 들어, Anthropic은 Responsible Scaling Policy를 활용하고 모델의 능력과 한계를 문서화하기 위해 system cards를 발행합니다. Google DeepMind, OpenAI, and Microsoft와 같은 기업들도 유사한 프레임워크를 채택했습니다. 이러한 공개를 의무화함으로써, SB 53은 연구소들이 경쟁 우위를 점하기 위해 안전 및 공개 프로그램을 축소하는 것을 방지하고 공정한 경쟁 환경을 조성합니다.

기술적 임계값 및 향후 개선 사항

Anthropic은 SB 53을 강력한 토대로 삼되, 향후 규제 진화의 세 가지 영역을 제안합니다:

Training Compute Thresholds

법안은 현재 훈련에 사용된 컴퓨팅 파워의 양을 기준으로 규제 대상 AI 시스템을 규제 대상으로 식별합니다. 임계값은 10^26 FLOPS로 설정되어 있습니다. Anthropic은 이것이 수용 가능한 시작점이지만, 일부 강력한 모델이 이 범위에서 벗어날 위험이 있다고 언급합니다.

Detail of Evaluations

Anthropic은 개발자들이 수행하는 테스트, 평가 및 완화 조치에 대해 더 세밀한 세부 정보를 제공할 것을 옹호합니다. 그들은 Frontier Model Forum과의 협력을 통해 안전 연구 및 레드팀 테스트를 공유하는 것이 전체적인 안전 생태계를 강화하는 방식의 예로로써 그들의 자체적인 작업을 강조합니다.

Adaptive Regulation

AI 기술이 급격히 발전하기 때문에, Anthropic은 규제 기관이 안전과 혁신 사이의 균형을 유지하기 위해 규칙을 동적으로 업데이트할 수 있는 능력을 갖추어야 한다고 주장합니다.

규제적 맥락

Anthropic은 프론티어 AI 안전은 주 정부 규제의 파악 조각(patchwork) 규제를 피하기 위해 이상적으로 연방 수준에서 다뤄져야 한다고 주장하지만, 워싱턴의 연방 정부 합의가 강력한 AI 발전 속도보다 느리기 때문에 SB 53을 지지합니다.