OpenAI 일본 청소년 안전 청사진

OpenAI 일본은 청소년 안전 청사진을 발표했습니다. 이는 청소년이 생성형 AI를 안전하게 사용할 수 있도록 설계된 프레임워크로, 잘못된 정보, 부적절한 콘텐츠, 그리고 젊은 사용자에게 발생할 수 있는 심리적 부담과 같은 위험을 완화하기 위해 편리함, 프라이버시, 사용 자유보다 안전을 우선시합니다.

일본 청소년 안전 청사진의 핵심 기둥

일본 청소년 안전 청사진은 네 가지 주요 기술·운영 기둥 위에 구축됩니다:

연령 인식 보호

OpenAI는 사생활을 고려한 위험 기반 연령 추정을 구현하여 청소년과 성인을 구분합니다. 이를 통해 연령대에 맞는 특정 보호 조치를 적용할 수 있습니다. 연령 판정이 잘못되었다고 생각하는 사용자를 위한 항소 절차도 제공됩니다.

미성년자 대상 강화된 안전 정책

18세 미만 사용자를 위한 안전 정책이 강화되어 AI가 다음을 생성하지 않도록 합니다:

• 노골적인 성적 또는 폭력적 콘텐츠 생성
• 자해 또는 자살을 묘사하거나 조장
• 위험한 행동을 조장
• 해로운 신체 이미지 강화

응답은 발달 단계에 맞게 설계됩니다. 또한 AI는 미성년자가 위험한 행동, 증상, 혹은 건강 관련 우려를 부모나 보호자에게 숨기는 것을 돕는 데 제한됩니다.

확대된 부모 통제 기능

OpenAI는 가족이 보호 설정을 맞춤화할 수 있도록 다음과 같은 도구를 도입합니다:

• 계정 연동
• 프라이버시 및 설정 제어
• 사용 시간 관리
• 부모·보호자를 위한 알림

웰빙 중심 설계

임상의, 연구자, 교육자, 아동 안전 전문가와 협력하여 OpenAI는 휴식 알림 및 실제 지원으로 연결되는 경로와 같은 기능을 개발하고 있습니다. 또한 AI가 청소년의 정신 건강 및 발달에 미치는 영향을 연구하고 있습니다.

기존 안전 장치

새로운 청사진은 이미 ChatGPT에 통합된 기존 안전 조치를 기반으로 합니다:

• 자해 감지: 잠재적인 자해 신호를 감지하고 사용자를 실제 자원으로 안내하는 시스템.
• 사용 알림: 장시간 사용 시 휴식을 권장하는 제품 내 알림.
• 남용 모니터링: 다층적인 안전 시스템 및 남용 모니터링.
• 아동 성착취 방지(CSAM): AI가 생성한 아동 성착취 자료를 방지하는 업계 선도적 방지책.

산업 및 사회 협력

OpenAI 일본은 청소년 보호가 기업, 정부, 교육자, 가정이 함께 책임을 져야 하는 공동 과제임을 강조합니다. 회사는 투명한 대화를 통해 부모, 정책 입안자, 지역 사회와 협력하여 이러한 보호 조치를 산업 표준으로 만들 계획입니다.

"AI와 함께 성장하는 세대의 안전을 보호하는 것은 기업, 정부, 교육자, 가정을 포함한 사회 전체가 공유하는 책임입니다. OpenAI는 일본 전역의 이해관계자와 긴밀히 협력하여 젊은 사용자가 자신감을 가지고 배우고, 창조하고, 잠재력을 확장할 수 있는 환경을 조성하기 위해 최선을 다하고 있습니다."

—카즈야 오쿠보, 정책·파트너십 책임자, OpenAI 일본