OpenAI, AI 및 아동 안전 연구에 200만 달러 지원

청소년 AI 안전 연구에 대한 약속

OpenAI는 '아동을 위한 더 안전한 AI 참여 헌장(Charter of Engagement for Safer AI for Children)'에 공식적으로 가입하고, 'AI 시대의 아동 권리 및 보호 연합(Coalition for Children’s Rights and Protection in the Age of AI)'에 200만 달러의 기금을 지원하기로 약속했습니다. 이 이니셔티브는 인공지능이 아동에게 미치는 영향에 대한 독립적인 과학적 연구를 장려하며, 아동 발달에 대한 잠재적 위험과 학습 및 창의성을 위한 기회 모두에 초점을 맞추고 있습니다.

공유 측정 도구 지원

200만 달러의 기부금은 특히 공유 측정 도구 개발을 위해 사용될 예정입니다. 이러한 자원은 연구자들에게 AI 시스템을 평가할 수 있는 표준화된 방법을 제공하여, 해당 기술이 어린 사용자들과 어떻게 상호작용하는지 더 잘 이해할 수 있도록 돕기 위한 것입니다. 이 이니셔티브는 이러한 도구를 구축함으로써 더 안전한 AI 제품 개발과 보다 효과적인 공공 정책 수립을 위한 실증적 기반을 마련하고자 합니다.

독립적 연구의 원칙

헌장의 핵심 요소는 연구 독립성의 보호입니다. 이 협약에 따라 참여 연구팀은 방법론과 결론에 대한 완전한 통제권을 유지합니다. 이 프로그램은 투명성을 보장하고 AI 안전에 관한 증거 기반의 편향을 방지하기 위해 부정적이거나 결론이 나지 않은 결과를 포함한 모든 연구 결과를 공개하도록 의무화하고 있습니다.

정책 및 입법 옹호

이 연구 이니셔티브는 포괄적인 청소년 AI 안전 법안을 옹호하려는 OpenAI의 광범위한 노력과 일치합니다. OpenAI는 다음과 같은 요소를 우선시하는 규제 프레임워크를 지지합니다:

  • 연령에 적합한 안전장치: 아동의 발달 요구에 맞춘 기본 보호 조치.
  • 부모용 도구: 보호자에게 감독 및 제어 기능을 제공하는 기능.
  • 정기적인 위험 평가: 잠재적 위험에 대한 지속적인 평가 및 완화.
  • 의미 있는 책임: 개발자가 도구의 안전에 대해 책임을 지도록 보장하는 구조.

OpenAI는 EU Kids Act 개발과 관련하여 유럽 정책 입안자들과 협력하고, AI 시대의 청소년 안전 표준을 조화시키기 위해 국제 파트너들과 협력할 의사를 밝혔습니다.

Sources