OpenAI 안전 및 보안 관행 업데이트

OpenAI는 안전 및 보안 위원회(SSC)를 독립적인 이사회 감독 위원회로 전환하여 모델 개발 및 배포 과정에서 핵심 안전 및 보안 조치를 관리합니다. 이 조치는 모델 출시의 독립적인 감독을 위한 공식 메커니즘을 구축하며, 안전 문제가 해결될 때까지 출시를 연기할 권한을 포함합니다.

독립적인 거버넌스 및 이사회 감독

안전 및 보안 위원회는 이제 독립적인 이사회 감독 위원회로 기능합니다. 카네기 멜론 대학교 머신러닝 학과장인 Zico Kolter가 위원장을 맡으며, 위원회에는 Adam D’Angelo(Quora CEO), 은퇴한 미국 육군 장군 Paul Nakasone, 그리고 Nicole Seligman(전 Sony Corporation EVP 및 최고법무책임자)이 포함됩니다.

위원회의 주요 책임은 다음과 같습니다:

• 모델 출시 감독: 위원회와 전체 이사회는 모델 출시를 감독합니다. 안전 문제가 해결되지 않을 경우 출시를 연기할 권한이 있습니다.
• 기술 브리핑: 회사 리더십은 주요 모델 출시를 위한 안전 평가를 위원회에 제공합니다. 위원회는 현재 및 향후 모델에 대한 기술 평가와 출시 후 모니터링에 관한 정기 보고서를 받습니다.
• 운영 참여: 위원회는 OpenAI 내부 안전 및 보안 팀과 정기적으로 협력합니다.

강화된 사이버 보안 조치

OpenAI는 고급 AI 연구와 제품 인프라를 보호하기 위해 위험 기반 사이버 보안 접근 방식을 채택하고 있습니다. 현재 진행 중인 이니셔티브는 다음과 같습니다:

• 인프라 보안: 내부 정보 분할을 확대하고 24시간 보안 운영 팀의 인력을 늘리고 있습니다.
• 산업 협업: AI 산업을 위한 정보 공유 및 분석 센터(ISAC) 설립을 검토하여 AI 기업 간 위협 인텔리전스와 사이버 보안 정보를 공유하도록 하고 있습니다.

투명성 및 외부 협업

OpenAI는 다음 채널을 통해 투명성 노력과 안전 시스템에 대한 제3자 검증을 확대하고 있습니다:

투명성 보고

OpenAI는 GPT-4o 및 o1-preview와 같은 모델에 대한 시스템 카드를 지속적으로 공개하고 있으며, 여기에는 기능, 위험, 외부 레드팀 결과 및 Preparedness Framework 하에 수행된 최전선 위험 평가가 상세히 포함됩니다.

외부 파트너십

• 독립 테스트: 회사는 비정부 연구소 및 제3자 안전 기관과 협력하여 독립적인 모델 안전 평가를 진행하고 있습니다.
• 정부 협력: OpenAI는 미국 및 영국 AI 안전 연구소와 협력하여 신흥 위험과 신뢰할 수 있는 AI를 위한 표준을 연구하고 있습니다. 또한 Los Alamos National Laboratory와 협력하여 바이오 과학 연구 환경에서 AI의 안전한 사용을 연구하고 있습니다.

개발을 위한 통합 안전 프레임워크

OpenAI는 모델 출시를 위한 명확한 성공 기준을 갖춘 통합 안전 및 보안 프레임워크를 구현하고 있습니다. 이 프레임워크는 위험 평가를 기반으로 하며 안전 및 보안 위원회의 승인을 받아야 합니다.

이 프레임워크를 지원하기 위해 OpenAI는 연구, 안전, 정책 팀을 재구성하여 조직 전반에 걸친 협업을 강화하고 연결을 강화했습니다. 이 프레임워크는 모델의 능력과 복잡성이 증가함에 따라 적응하도록 설계되었습니다.