OpenAI 이사회, 안전 및 보안 위원회 구성

OpenAI는 프로젝트와 운영에 대한 중요한 안전 및 보안 결정을 감독하기 위해 안전 및 보안 위원회를 설립했습니다. 이 조치는 회사가 차세대 프론티어 모델 훈련을 시작하면서 이루어졌으며, OpenAI는 이 모델이 인공 일반 지능(AGI)으로 가는 길에서 능력을 크게 향상시킬 것으로 예상합니다.

위원회 구성 및 리더십

안전 및 보안 위원회는 OpenAI 이사인 Bret Taylor(의장), Adam D’Angelo, Nicole Seligman, 그리고 CEO Sam Altman이 이끌고 있습니다. 기술적 깊이를 확보하기 위해 위원회에는 다음과 같은 기술 및 정책 전문가들이 포함됩니다:

• Aleksander Madry: 준비 담당 책임자
• Lilian Weng: 안전 시스템 담당 책임자
• Alignment Science 담당 책임자: John Schulman
• Matt Knight: 보안 담당 책임자
• Chief Scientist: Jakub Pachocki

또한, 이사회에 임명된 퇴역 미국 육군 장군 Paul M. Nakasone이 위원회에 합류했습니다. 위원회는 또한 전 사이버 보안 관계자인 Rob Joyce와 John Carlin을 포함한 외부 전문가들과 협의할 것입니다.

즉각적인 목표 및 90일 검토

안전 및 보안 위원회의 주요 책임은 중요한 안전 및 보안 결정에 대해 전체 이사회에 권고안을 제시하는 것입니다.

첫 번째 주요 과제는 90일 동안 OpenAI의 기존 프로세스와 보호 조치를 평가하고 추가 개발하는 것입니다. 이 기간이 끝나면 위원회는 전체 이사회에 권고안을 제시할 것입니다. 이사회 검토 후, OpenAI는 채택된 권고안에 대한 업데이트를 공개적으로 공유할 것을 약속했으며, 이는 안전 및 보안 요구 사항에 부합하는 경우에 한합니다.

프론티어 모델 개발 배경

OpenAI는 차세대 프론티어 모델의 훈련이 현재 진행 중이라고 밝혔습니다. 회사는 이 시스템들이 AGI로 가는 길에서 조직을 다음 수준의 능력으로 끌어올릴 것으로 기대된다고 설명합니다. OpenAI는 자사의 모델이 능력과 안전 모두에서 업계 최고라고 주장하면서도, 개발 단계에서 안전 및 보안에 대한 "강력한 논쟁"을 명시적으로 환영합니다.