OpenAI와 Appia 재단: 고급 AI를 위한 공동 표준 구축

OpenAI는 Linux 재단이 주관하는 Appia 재단 설립을 도왔으며, 국제 표준을 AI에 대한 실용적인 평가 기준으로 전환하는 개방형 모듈식 사양을 만들고 있습니다. 이 이니셔티브는 제3자가 표준 준수를 검증할 수 있게 함으로써 중요한 신뢰 계층을 구축하고, 국가 및 국제 기관을 위한 공동 기술 언어를 만드는 것을 목표로 합니다.

Appia 재단의 역할

Appia 재단은 고수준 국제 표준과 실용적인 기술 구현 사이의 격차를 해소하도록 설계되었습니다. 모듈식 사양을 개발함으로써, Appia는 제3자가 표준 준수를 확인할 수 있는 프레임워크를 제공하고, 모델, 인프라 및 애플리케이션이 서로 다른 조직에 의해 개발될 때 재사용 가능한 증거를 생성합니다.

이러한 상호운용성은 관할권이나 개발에 관여하는 조직에 관계없이 AI 가치 사슬 전반에 걸쳐 안전 및 보안 위험이 일관되게 관리되도록 보장하는 것을 목표로 합니다.

국가 및 국제 거버넌스와의 통합

OpenAI는 국가 역량과 국제 협력이 서로를 강화해야 한다고 주장합니다. 이 조직은 지속 가능한 미국 프레임워크와 기술 전문성을 개발하고 독립적인 평가 생태계를 지원할 수 있는 강화된 AI 표준 및 혁신 센터(CAISI)를 옹호합니다.

OpenAI에 따르면, 역량 있는 국가 기관들의 네트워크는 공동 방법을 수립하고 신뢰할 수 있는 증거를 인정함으로써, 정부가 사고에 대한 협조적인 대응과 호환 가능한 안전 프레임워크에 필요한 공통 기술 이해를 제공받을 수 있습니다.

평가 관행의 기술적 엄격성

고급 AI에 대한 표준은 신뢰할 수 있는 평가 관행에 기반해야 합니다. OpenAI는 신뢰할 수 있는 제3자 평가를 위한 공동 플레이북을 마련했으며, 여기에는 다음 사항의 공개를 의무화합니다:

• 테스트 중인 시스템
• 도구 접근 및 평가 하네스
• 능력을 이끌어내는 데 사용된 방법
• 사용 가능한 자원
• 결과를 검증하기 위해 수행된 검사

이러한 원칙은 미국 CAISI와 영국 AISI와의 테스트 파트너십을 통해 적용되었으며, 최첨단 능력 평가와 생물학적 오용 방지에 중점을 두어 구체적인 시스템 개선을 이끌었습니다.

OpenAI의 내부 안전 인프라

Appia 재단의 작업은 OpenAI의 기존 내부 안전 프레임워크를 보완합니다:

• Preparedness Framework: 고급 AI 시스템으로부터 발생하는 가장 심각한 위험을 정의하고 운영화하기 위한 기반.
• Frontier Governance Framework: 위험 평가, 모델 보고, 보안 통제, 사고 대응 등을 포함한 규제 의무에 초점을 맞춘 공개 거버넌스 문서.

이러한 내부 관행을 Appia 재단의 개방형 사양과 결합함으로써, OpenAI는 최첨단 개발에서 얻은 교훈을 기술적으로 기반을 둔 실천으로 전환하여 전 세계 정부, 기업 및 독립 평가자들이 활용할 수 있도록 목표합니다.