OpenAI의 미국 AI 안전 거버넌스와 역연방주의

역연방주의를 통한 미국 AI 안전 거버넌스

OpenAI는 여러 주에서 일치된 법률이 사실상의 국가 표준을 만드는 "역연방주의"에 기반한 국가 AI 안전 프레임워크를 옹호하고 있습니다. 이 접근 방식은 중요한 프론티어 안전 결정이 AI 연구소만이 아닌 민주적 정부에 의해 내려지도록 보장하여, 미국 주도의 글로벌 AI 프레임워크의 기반을 마련하는 것을 목표로 합니다.

주 수준의 일치와 사실상의 국가 표준

공식적인 연방 프레임워크가 부재한 상황에서, OpenAI는 주들이 mirrored laws(동일한 법률)를 제정함으로써 공통된 방향을 설정할 수 있다고 주장합니다. 이는 혁신을 저해하거나 스타트업과 소규모 기업의 자원을 안전이 아닌 규제 준수로 돌릴 수 있는 "규제의 패치워크"를 방지합니다.

OpenAI에 따르면, 캘리포니아, 뉴욕, 일리노이는 세 가지 핵심 요소에 맞춘 프론티어 안전 법률을 이미 추진했습니다.

• 문서화된 안전 프레임워크: 프론티어 모델에 대한 위험 평가 요구 및 해당 평가와 결과의 공개.
• 사고 보고: 심각한 안전 사고의 의무적 보고.
• 거버넌스 및 책임: 준수를 보장하기 위한 독립적이고 객관적인 감사의 사용.

OpenAI는 캘리포니아가 핵심 공개 프레임워크를 확립했으며, 뉴욕이 해당 접근 방식의 관할 간 타당성을 입증했고, 일리노이가 공개 사항의 독립적 검증을 위한 요구 사항을 추가했다고 언급합니다.

연방 통합 및 국가 안보

OpenAI는 프론티어 AI가 개별 주 역량을 초과하는 국가 안보 위험과 기술 검토를 포함하기 때문에 연방 프레임워크가 필수적이라고 주장합니다. 이 조직은 주들이 국가 안보 결정을 관리하거나 기밀 시스템에 접근해야 하는 고도의 기술 검토를 수행하도록 맡겨서는 안 된다고 주장합니다.

연방 테스트 및 CAISI의 역할

OpenAI는 연방 정부가 가장 첨단 시스템의 테스트와 평가를 이끌어야 한다고 제안합니다. 구체적으로, 사고 후 책임에 의존하는 대신 피해가 발생하기 전에 예방하기 위해 필요한 지속 가능한 연방 역량을 제공하기 위해 **AI 표준 및 혁신 센터(CAISI)**를 강화해야 한다고 제안합니다.

사이버 평가 및 정부 접근

트럼프 행정부는 현재 사이버 보안과 관련하여 capaces AI 모델에 대한 미국 정부 테스트 프레임워크를 개발하기 위해 전문가들과 협력 중입니다. OpenAI는 이 프레임워크가 8월 초에 마련될 것으로 기대합니다. 일관되고 반복 가능한 테스트 접근 방식은 정부, 핵심 인프라 수호자, 동맹국이 악의적인 행위자에 맞서 신속하게 고급 AI 도구를 사용할 수 있도록 필요한 것으로 간주됩니다.

입법 진행 상황 및 프론티어 안전 블루프린트

OpenAI는 제이 오버놀테와 로리 트라한 하원의원을 포함한 의회의 현재 제안들을 연방 프레임워크를 향한 생산적인 단계로 보고 있습니다. 이 입법을 안내하기 위해 OpenAI의 "프론티어 안전 블루프린트"는 세 가지 주요 요구 사항을 제시합니다.

1. 테스트에서의 연방 리더십: 연방 정부는 가장 중대한 국가 안보 및 공공 안전 위험으로 인해 첨단 시스템의 평가를 이끌어야 합니다.
2. 회사 요구 사항: 가장 역량이 뛰어난 시스템의 개발자는 독립적인 감사, 사고 보고, 강력한 보안 기준, 그리고 whistleblower 보호(내부 고발자 보호)를 준수해야 합니다.
3. 상호 강화: 연방 및 주 노력이 서로 보완되어야 하며, 주들은 AI 교육, 청소년 보호, 환경 정책과 같은 비프론티어 안전 문제에 대해 "민주주의의 실험실"로서 계속 활동해야 합니다.

글로벌 AI 프레임워크로 나아가기

OpenAI는 일관된 국가 표준이 AI 표준을 위한 국제 프레임워크를 이끌기 위한 전제 조건이라고 주장합니다. 이 비전은 미국 주도의 국제 포럼을 포함하여 수용 가능한 표준을 수립하고, 위험과 능력에 대한 편견 없는 분석을 제공하며, 규칙을 따르는 국가와 기업에 기술을 제공하는 것을 목표로 합니다. 이 글로벌 접근 방식은 민주적 가치와 AI에 대한 민주적 비전을 기반으로 하도록 의도되었습니다.