OpenAI, ChatGPT 안전 및 웰빙 이니셔티브 업데이트

OpenAI는 ChatGPT가 정신적·감정적 고통의 징후를 인식하고 대응하는 방식을 개선하기 위해 120일간 집중적인 이니셔티브를 발표했습니다. 이번 노력은 전문가 의료 지침을 통합하고, 고급 추론 모델을 활용하며, 청소년 사용자를 위한 특정 보호 조치를 도입함으로써 민감한 순간에 AI가 더 도움이 되도록 하는 것을 목표로 합니다.

전문가 주도 안전 프레임워크

OpenAI는 두 개의 주요 전문가 그룹을 활용하여 복지 및 정신 건강 대응이 근거 기반이며 의학적으로 타당하도록 하고 있습니다:

• Expert Council on Well-Being and AI: 청소년 발달, 정신 건강, 인간-컴퓨터 상호작용 분야의 전문가 그룹입니다. 이 위원회는 현재 연구를 바탕으로 웰빙 지표를 정의하고, 우선순위를 설정하며, 부모 통제를 포함한 보호 장치를 설계합니다.
• Global Physician Network: 60개국에 걸쳐 250명 이상의 의사들로 구성된 네트워크입니다. 이 중 90명 이상(소아과 의사와 정신과 의사 포함)이 이미 정신 건강 상황에서 모델 행동에 관한 연구에 기여하여 안전 연구 및 모델 훈련에 정보를 제공하고 있습니다.

OpenAI는 현재 이 네트워크를 확대하여 청소년 건강, 물질 사용, 섭식 장애 분야의 전문성을 가진 더 많은 임상의들을 포함하고 있습니다.

위기 감지를 위한 추론 모델 통합

민감한 상호작용 중 응답 품질을 향상시키기 위해 OpenAI는 급성 고통의 징후를 감지하는 실시간 라우터를 구현할 것입니다. 이러한 징후가 감지되면, 사용자가 처음 선택한 모델에 관계없이 GPT-5-thinking과 같은 추론 모델로 대화를 자동으로 라우팅하여 보다 유익한 응답을 제공합니다.

청소년을 위한 강화된 보호 및 부모 통제

OpenAI는 가족이 청소년(최소 연령 13세)의 ChatGPT 사용을 관리할 수 있도록 새로운 도구를 도입하고 있습니다. 다음 달 내에 다음과 같은 부모 통제가 제공될 예정입니다:

• Account Linking: 부모는 이메일 초대를 통해 자신의 계정을 청소년 계정에 연결할 수 있습니다.
• Behavioral Rules: 부모는 기본적으로 활성화된 연령에 맞는 모델 행동 규칙을 관리할 수 있습니다.
• Feature Management: 부모는 채팅 기록 및 메모리와 같은 특정 기능을 비활성화할 수 있습니다.
• Distress Notifications: 시스템이 청소년이 급성 고통 상황에 처했음을 감지하면 부모에게 알림이 전송됩니다. 이 기능은 전문가 지침에 따라 개발되어 부모와 청소년 간의 신뢰를 유지하도록 설계되었습니다.

이러한 업데이트는 장시간 세션 중에 사용자가 휴식을 취하도록 권장하는 앱 내 알림과 같은 기존 기능을 기반으로 합니다.