OpenAI 아동 안전 블루프린트

OpenAI는 아동 안전 블루프린트를 도입했는데, 이는 AI 시대에 아동 성적 착취 및 학대(CSAM)를 퇴치하기 위해 미국 아동 보호 프레임워크를 강화하도록 설계된 정책 프레임워크입니다. 이 블루프린트는 법적, 운영적, 기술적 전략을 통합하여 위험을 식별하고 대응을 가속화함으로써 피해를 예방하는 것을 목표로 합니다.

아동 보호를 위한 세 가지 핵심 우선순위

아동 안전 블루프린트는 생성형 AI가 제기하는 진화하는 위협에 대처하기 위해 세 가지 주요 기둥에 초점을 맞춥니다.

1. 법적 프레임워크 현대화

OpenAI는 AI가 생성하거나 변조한 CSAM을 특별히 다루기 위해 법률 현대화를 옹호하며, 이로써 법적 프레임워크가 생성형 AI의 기술적 역량에 발맞추도록 보장합니다.

2. 보고 및 조정 개선

이 블루프린트는 AI 제공자와 법 집행 기관 간의 조정 및 보고 프로세스를 강화하여 아동 착취에 대한 보다 효과적인 조사를 지원하는 데 중점을 둡니다.

3. Safety-by-Design 구현

OpenAI는 AI 시스템에 직접 안전 중심 설계 조치를 구축할 것을 제안합니다. 이 접근 방식은 시스템 수준에서 오용을 방지하고 탐지하여 발생하기 전에 착취 시도를 차단하는 데 중점을 둡니다.

협력적 개발 및 산업 표준

이 프레임워크는 실종 및 착취 아동 국가센터(NCMEC), Thorn, 그리고 법무장관 연합(AGA)과 같은 주요 아동 안전 조직 및 전문가와의 협력을 통해 개발되었습니다. 구체적으로 AGA의 AI 태스크 포트 공동 의장인 노스캐롤라이나 주 법무장관 Jeff Jackson과 유타 주 법무장관 Derek Brown이 포함됩니다.

계층적 방어 및 예방 아키텍처

주 법무장관 Jeff Jackson과 Derek Brown에 따르면, 생성형 AI에 대한 효과적인 보호 장치는 단일 기술적 통제가 아닌 '계층적 방어'가 필요합니다. 그들은 다음과 같은 조합이 필요하다고 강조합니다:

• 탐지 메커니즘
• 거부 메커니즘
• 인간 감독
• 새로운 오용 패턴에 대한 지속적인 적응

AI와 아동 안전에 대한 전문가 관점

산업 및 아동 안전 리더들은 부문 간 협력의 위험과 필요성을 모두 강조합니다:

"생성형 AI는 온라인 아동 성적 착취 범죄를 깊이 우려스러운 방식으로 가속화하고 있으며 - 장벽을 낮추고, 규모를 늘리며, 새로운 형태의 피해를 가능하게 하고 있습니다." — Michelle DeLaune, President & CEO, National Center for Missing & Exploited Children

"예방 아키텍처를 상류에서 올바르게 구축하는 것은 산업이 아동 안전을 위해 할 수 있는 가장 높은 레버리지 투자입니다." — State Attorneys General Jeff Jackson and Derek Brown