OpenAI 청소년 AI 안전 제안 및 글로벌 리더십 이니셔티브

OpenAI 청소년 AI 안전 제안 및 글로벌 리더십 이니셔티브

OpenAI는 국제 청소년 안전 연구소의 설립과 미성년자를 보호하기 위한 글로벌 프레임워크의 채택을 촉구하고 있습니다. 이 이니셔티브는 연령에 적합한 보호 조치를 표준화하고, AI가 인간 발달의 대체가 아닌 학습과 기회의 도구로 기능하도록 보장하는 것을 목표로 합니다.

국제 청소년 안전 연구소 제안

OpenAI는 개별 정상회의를 넘어 글로벌 조정의 연속성을 제공하기 위해 전념하는 국제 청소년 안전 연구소의 설립을 제안합니다. 이 연구소는 정부, 연구자, 시민 사회, 산업이 증거를 공유하고 지침을 개발하며 안전 표준을 시간이 지남에 따라 높일 수 있는 허브 역할을 할 것입니다.

OpenAI는 이 연구소를 위한 두 가지 주요 구현 경로를 제안합니다:

  • 새로운 국제 기구: 청소년 AI 안전을 전념하는 독립된 조직
  • 확장된 임무: 기존 또는 새로 설립된 국가 AI 연구소에 국제 파트너와 연구 및 지침을 공유할 글로벌 임무를 부여하는 것

이 제안은 OpenAI 재단이 지원하는 Common Sense Media의 청소년 AI 안전 연구소, 미국 교사 연맹과의 협력, 그리고 스탠퍼드와 에스토니아 연구원과의 파트너십으로 수행된 에스토니아 학교에서의 전국 ChatGPT 도입과 같은 연구 중심 배포를 포함한 기존 노력들을 바탕으로 합니다.

글로벌 청소년 AI 안전 표준을 위한 9가지 원칙 프레임워크

OpenAI는 강력한 청소년 AI 안전 프레임워크와 G7 합의를 개발하는 데 지침을 제공하는 아홉 가지 핵심 원칙을 제시했습니다:

  1. 연령에 적합한 보호: 제공자는 프라이버시를 보존하는 나이 추정을 사용하여 미성년자를 식별하고, 사용자의 나이가 결정되지 않은 경우 보호 조치를 기본값으로 적용해야 합니다.
  2. 선제적 위험 평가: 회사는 잠재적인 피해가 발생하기 전에 이를 해결하기 위해 연간 청소년 안전 위험 평가를 수행해야 하며, 동시에 학습과 창의성과 같은 긍정적인 결과를 측정해야 합니다.
  3. 부모 통제: 보호자는 기억, 데이터 사용 및 시간 제한을 관리할 수 있는 접근 가능한 도구를 갖추어야 하며, 이러한 도구는 가족에게 적극적으로 홍보되어야 합니다.
  4. 투명성: 회사는 젊은 사용자를 위한 보호 조치를 설명하고 그 보호 조치가 어떻게 진화하는지를 명확히 기술한 안전 정책을 공개해야 합니다.
  5. 고위험 프로토콜: 자해, 착취, 그루밍, 성적으로 착취적인 콘텐츠와 같은 심각한 안전 상황에 대한 명확한 프로토콜이 존재해야 하며, 이는 자원과의 연결 및 부모 알림을 포함해야 합니다.
  6. 발달 지원: AI는 학습과 실제 세계의 관계를 지원하도록 설계되어야 하며, 이를 대체해서는 안 됩니다. 인간의 판단과 전문적 지원이 필수적인 영역에서는 경계를 유지해야 합니다.
  7. 개인정보 보호: 미성년자의 개인 정보는 보호되어야 하며, 구체적으로 개인 데이터 판매 및 프라이버시를 침해하는 타겟 광고를 금지해야 합니다.
  8. 문해력 증진: 프레임워크는 젊은이들이 AI를 책임감 있게 그리고 자신 있게 사용할 수 있도록 AI 문해력과 비판적 사고 능력을 증진해야 합니다.
  9. 책임감 및 감사: 공통かつ 호환 가능한 표준 및 입법 감독에 기반한 독립적인 감사가 보호 조치가 효과적으로 시행되도록 보장하는 데 필요합니다.

ChatGPT에서의 구현 및 글로벌 교육

OpenAI는 특정 제품 설계 및 행동 지침을 통해 이러한 원칙을 ChatGPT에 통합합니다:

  • 미성년자를 위한 보호 조치: 18세 미만 사용자를 위한 신체 이미지, 위험한 활동, 그래픽 콘텐츠, 자해, 그리고 비밀 유지 주변의 가드레일이 강화되었습니다.
  • 모델 사양: 18세 미만 사용자를 위한 전념된 원칙으로, 연령에 적합한 경험을 우선시하고 오프라인 지원을求める 것을 장려합니다.
  • 나이 예측: 사용자가 미성년자로 의심될 때 더 강력한 보호를 적용하는 고급 나이 예측 시스템

제품 안전 외에도, OpenAI의 '국가를 위한 교육' 이니셔티브는 에스토니아, 그리스, 싱가포르 정부의 협력을 통해 현지화된 학습 도구, 교사 교육, 연구 중심 배포를 제공하여 AI 도입이 실제 교실 요구를 충족하도록 보장합니다.

G7 정상회의 및 OpenAI 포럼

OpenAI는 프랑스 에비앙에서 열리는 G7 정상회의에 참여하여 산업 표준 및 제안된 청소년 안전 연구소를 논의할 것입니다. 또한, OpenAI는 파리에서 OpenAI 포럼을 개최하여 프랑스의 AI 및 디지털 문제 대사 Clara Chappaz, OpenAI 최고 글로벌 affairs 책임자 Chris Lehane, 그리고 iRaise/Everyone.AI 전문가들과의 논의를 포함할 것입니다.

Sources