프론티어 모델 포럼 발표

OpenAI, Google, Microsoft, 그리고 Anthropic은 산업 전반의 안전 표준과 평가를 만들어 프론티어 AI 모델의 책임 있는 개발과 배포를 보장하기 위해 Frontier Model Forum을 설립했습니다. 이 이니셔티브는 정부 노력과 산업 관행 사이의 격차를 해소하기 위해 AI 안전 분야에서의 교차 조직 협력을 위한 수단을 제공하는 것을 목표로 합니다.

프론티어 모델 포럼의 주요 목표

프론티어 모델 포럼은 향후 1년 동안 고급 AI 시스템과 관련된 위험을 완화하기 위해 세 가지 주요 행동 영역에 집중합니다:

1. 모범 사례 식별

포럼은 산업 리더, 정부, 시민 사회, 학계 사이에서 지식과 모범 사례 공유를 촉진할 것입니다. 주요 목표는 프론티어 AI 모델과 관련된 다양한 잠재적 위험을 완화하는 안전 표준과 관행을 수립하는 것입니다.

2. AI 안전 연구 진흥

포럼은 가장 중요한 미해결 질문을 식별하고 조율하여 AI 안전 생태계를 지원하려고 합니다. 기술적 초점의 주요 영역은 다음과 같습니다:

• 적대적 견고성: 모델이 악의적인 입력에 대해 탄력적이도록 보장합니다.
• 기계적 해석 가능성: 모델의 내부 작동 방식을 이해하는 것.
• *확장 가능한 감독: 점점 더 복잡해지는 시스템의 안전을 관리하는 것.
• 독립적 연구 접근: 외부 검증을 위한 경로를 제공하는 것.
• 발현 행동 및 이상 탐지: 모델의 예상치 못한 능력을 식별하는 것.

처음에는 포럼은 프론티어 AI 모델을 위한 기술 평가 및 벤치마크의 공개 라이브러리 개발과 공유를 우선시할 것입니다.

3. 정보 공유 촉진

포럼은 기업, 정부, 이해관계자 사이에서 AI 안전 및 위험에 관한 정보를 공유하기 위한 안전하고 신뢰할 수 있는 메커니즘을 구축할 것입니다. 이 과정은 사이버 보안 산업에서 사용되는 기존 프레임워크를 바탕으로 책임 있는 공개 분야의 확립된 모범 사례를 따를 것입니다.

AI 거버넌스에 대한 산업 관점

주요 AI 연구소들은 AI가 인간 통제를 유지하고 사회에 이익을 주도록 하기 위해 집단 행동의 필요성을 강조했습니다:

"AI 기술을 만드는 회사는それが 안전하고 안전하며 인간 통제를 유지하도록 보장할 책임이 있습니다. 이 이니셔티브는 기술 부문이 책임감 있게 AI를 발전시키도록 모으는 중요한 단계입니다. — Brad Smith, Vice Chair & President, Microsoft

"AI 기업들, 특히 가장 강력한 모델을 작업하는 기업들은 공통된 기반에 맞춰 생각하고 적응 가능한 안전 관행을 발전시키는 것이 중요합니다. — Anna Makanju, Vice President of Global Affairs, OpenAI

"Anthropic은 AI가 세계 작동 방식을 근본적으로 바꿀 잠재력이 있다고 믿습니다. 우리는 산업, 시민 사회, 정부, 학계와 협력하여 해당 기술의 안전하고 책임 있는 개발을 촉진하게 되어 기쁩니다. — Dario Amodei, CEO, Anthropic

"우리는 다른 선도적인 회사들과 협력하여 기술 전문성을 공유함으로써 책임 있는 AI 혁신을 촉진하게 되어 기쁩니다. — Kent Walker, President, Global Affairs, Google & Alphabet