OpenAI 청소년 안전 및 학습 프레임워크

OpenAI는 청소년이 AI에 안전하게 접근할 수 있도록 연령에 적합한 보호 장치와 학습 중심 도구를 구현하는 프레임워크를 도입하고 있습니다. 이 접근 방식은 현재 세대에 있어 AI가 결정적인 기술이며, 성인이 될 때까지 접근을 제한하면 청소년이 미래에 대비하지 못하게 된다는 전제에 기반합니다.

학습 중심 도구 및 학습 모드

OpenAI는 청소년의 AI 상호작용 초점을 즉각적인 답변 제공에서 적극적인 참여와 비판적 사고를 촉진하는 방향으로 전환하고 있습니다.

학습 모드

학습 모드는 교육 전문가, 학습 과학자, 교사와의 협력을 통해 개발되었습니다. 단순히 답변을 제공하는 대신, 구조화된 설명, 안내 질문, 반성의 기회를 활용하여 학생이 문제를 단계별로 해결하도록 돕습니다. 초기 평가 결과 이러한 도구가 학생 성과의 유의미한 향상으로 이어지고 있음을 보여줍니다.

교육 지원 기능

학술적 사용을 용이하게 하기 위해 OpenAI는 다음과 같은 특정 향상 기능을 도입했습니다:

• 부모 활성화: 연결된 청소년 계정을 가진 부모는 부모 통제 기능을 통해 직접 학습 모드를 활성화할 수 있으며, 이는 청소년이 시작하는 모든 새 채팅의 기본 설정이 됩니다.
• 시작 프롬프트: 교육 중심의 새로운 프롬프트는 청소년이 복잡한 주제를 분해하고, 플래시카드를 만들고, 연습 문제를 생성하며, 노트를 학습 가이드로 변환하는 데 도움을 줍니다.
• 대화형 경험: ChatGPT는 현재 1,800만 명의 주간 사용자가 이용하고 있는 수학 및 과학 분야의 300개 이상의 주제에 대한 대화형 학습 경험을 제공합니다.
• 언어 학습: 새로운 발음 경험은 오디오를 활용하여 61개 이상의 언어에서 발음 학습을 지원합니다.

청소년 사용자를 위한 내장 보호 장치

ChatGPT가 사용자가 18세 미만이라고 추정할 경우, 유해 콘텐츠에 대한 노출을 줄이기 위해 강화된 보호 장치가 적용된 보다 연령에 적합한 경험을 자동으로 제공합니다.

콘텐츠 보호

더 강력한 보호 장치를 통해 다음과 같은 콘텐츠에 대한 노출을 방지합니다:

• 그래픽 폭력
• 자해
• 위험한 바이럴 챌린지
• 비건강적인 신체 이미지 콘텐츠
• 위험하거나 로맨틱하거나 성적인 역할플레이

행동 건강 및 습관 형성

건강한 기술 사용 습관을 장려하기 위해, ChatGPT는 장시간 플랫폼을 사용하는 청소년에게 더 frequent한 휴식 알림을 제공합니다.

부모 통제 및 알림

OpenAI는 부모가 청소년의 AI 사용을 관리할 수 있도록 다음과 같은 도구를 개발했습니다:

• 제어 설정: 부모는 조용한 시간 설정, 음성 모드 비활성화, 이미지 생성 접근 관리를 할 수 있습니다.
• 고위험 알림: 부모는 자해 가능성 징후와 같은 고위험 상황에서 알림을 받습니다.
• 정책 위반 알림: 폭력적 위협 또는 온라인 폭력 행위와 관련된 사용 정책 위반으로 연결된 청소년 계정이 비활성화되는 경우를 포함하도록 알림이 확장되고 있습니다.

협력 안전 생태계

OpenAI는 외부 전문가 및 조직과 협력하여 안전 정책을 다듬고 보호 장치의 효과를 평가합니다.

전문가 파트너십

OpenAI는 아동 안전 전문가, 정신 건강 전문가, 연구자, 정부, 교육자와 협력합니다. 구체적으로, 온라인 폭력 예방 분야의 리더인 Moonshot과 협의하여 개입이 사려 깊고 효과적이도록 보장합니다.

산업 멤버십

OpenAI는 연령에 적합한 보호 장치와 부모 도구를 강화하기 위한 산업 전반의 노력을 진전시키기 위해 Family Online Safety Institute (FOSI)에 가입했습니다.

미래 로드맵

OpenAI는 연령에 적합한 보호 장치를 계속 강화하고 심각한 피해에 대한 보호 장치를 개선할 계획입니다. 미래 노력은 건강한 AI 사용에 대한 연구를 진전시키고 청소년이 적극적이고 자신감 있게 학습할 수 있도록 돕는 경험을 확장하는 데 중점을 둘 것입니다.