OpenAI, AI 및 아동 안전 연구에 200만 달러 지원
청소년 AI 안전 연구에 대한 약속
OpenAI는 '아동을 위한 더 안전한 AI 참여 헌장(Charter of Engagement for Safer AI for Children)'에 공식적으로 가입하고, 'AI 시대의 아동 권리 및 보호 연합(Coalition for Children’s Rights and Protection in the Age of AI)'에 200만 달러의 기금을 지원하기로 약속했습니다. 이 이니셔티브는 인공지능이 아동에게 미치는 영향에 대한 독립적인 과학적 연구를 장려하며, 아동 발달에 대한 잠재적 위험과 학습 및 창의성을 위한 기회 모두에 초점을 맞추고 있습니다.
공유 측정 도구 지원
200만 달러의 기부금은 특히 공유 측정 도구 개발을 위해 사용될 예정입니다. 이러한 자원은 연구자들에게 AI 시스템을 평가할 수 있는 표준화된 방법을 제공하여, 해당 기술이 어린 사용자들과 어떻게 상호작용하는지 더 잘 이해할 수 있도록 돕기 위한 것입니다. 이 이니셔티브는 이러한 도구를 구축함으로써 더 안전한 AI 제품 개발과 보다 효과적인 공공 정책 수립을 위한 실증적 기반을 마련하고자 합니다.
독립적 연구의 원칙
헌장의 핵심 요소는 연구 독립성의 보호입니다. 이 협약에 따라 참여 연구팀은 방법론과 결론에 대한 완전한 통제권을 유지합니다. 이 프로그램은 투명성을 보장하고 AI 안전에 관한 증거 기반의 편향을 방지하기 위해 부정적이거나 결론이 나지 않은 결과를 포함한 모든 연구 결과를 공개하도록 의무화하고 있습니다.
정책 및 입법 옹호
이 연구 이니셔티브는 포괄적인 청소년 AI 안전 법안을 옹호하려는 OpenAI의 광범위한 노력과 일치합니다. OpenAI는 다음과 같은 요소를 우선시하는 규제 프레임워크를 지지합니다:
- 연령에 적합한 안전장치: 아동의 발달 요구에 맞춘 기본 보호 조치.
- 부모용 도구: 보호자에게 감독 및 제어 기능을 제공하는 기능.
- 정기적인 위험 평가: 잠재적 위험에 대한 지속적인 평가 및 완화.
- 의미 있는 책임: 개발자가 도구의 안전에 대해 책임을 지도록 보장하는 구조.
OpenAI는 EU Kids Act 개발과 관련하여 유럽 정책 입안자들과 협력하고, AI 시대의 청소년 안전 표준을 조화시키기 위해 국제 파트너들과 협력할 의사를 밝혔습니다.