ChatGPT의 신뢰할 수 있는 연락처: 위기 지원을 위한 OpenAI의 새로운 안전 기능

개요

신뢰할 수 있는 연락처는 ChatGPT의 선택적 안전 기능으로, 성인이 신뢰할 수 있는 사람을 지정할 수 있게 하며, 자동 시스템 및 훈련된 검토자가 사용자가 심각한 안전 우려를 나타내는 방식으로 자해에 대해 논의하고 있다고 감지할 경우 해당 인물에게 알림이 전송될 수 있습니다.

신뢰할 수 있는 연락처 작동 방식

사용자는 ChatGPT 설정에서 성인 한 명(전 세계는 18세 이상, 한국은 19세 이상)을 신뢰할 수 있는 연락처로 추가할 수 있습니다. 신뢰할 수 있는 연락처는 자신의 역할을 설명하는 초대를 받으며, 기능이 활성화되려면 일주일 이내에 수락해야 합니다. 초대를 거절하면 사용자는 다른 성인을 선택할 수 있습니다.

시스템이 잠재적인 심각한 자해 우려를 감지하면, ChatGPT는 사용자에게 신뢰할 수 있는 연락처에 알릴 수 있음을 알리고 대화 시작 문구를 제안합니다. 이후 특별히 훈련된 소규모 팀이 상황을 검토합니다. 검토자가 대화가 심각한 안전 우려를 나타낼 수 있다고 판단하면, ChatGPT는 신뢰할 수 있는 연락처에게 이메일, 문자 메시지 또는 ChatGPT 계정이 있는 경우 앱 내 알림으로 간단한 알림을 보냅니다.

프라이버시 및 알림 세부 사항

알림은 의도적으로 제한됩니다: 자해가 잠재적으로 우려되는 방식으로 언급된 일반적인 이유만을 공유하고, 신뢰할 수 있는 연락처가 확인하도록 권장합니다. 사용자 프라이버시를 보호하기 위해 채팅 내용이나 전사는 포함되지 않습니다. 또한 알림에는 민감한 대화를 진행하기 위한 전문가 가이드 링크가 포함됩니다.

사용자 제어 및 검토 프로세스

사용자는 언제든지 설정에서 신뢰할 수 있는 연락처를 제거하거나 편집할 수 있으며, 신뢰할 수 있는 연락처는 도움말 센터를 통해 언제든지 스스로를 제거할 수 있습니다. 모든 알림은 전송 전에 훈련된 인간 검토를 거치며, OpenAI는 이 검토를 1시간 이내에 완료하려고 노력합니다.

기존 안전 장치와의 통합

신뢰할 수 있는 연락처는 ChatGPT의 다른 안전 조치를 보완합니다:

• 민감한 순간에 사용자가 응급 서비스, 위기 핫라인, 정신 건강 전문가 또는 신뢰할 수 있는 사람에게 연락하도록 권장합니다.
• 170명 이상의 정신 건강 전문가와의 협업을 통해 잠재적 고통의 징후를 감지하고 대응하며, 대화를 진정시키고 사용자를 실제 지원으로 안내하는 신중한 응답을 제공합니다.
• 장시간 사용 후 휴식을 제안하여 사용자가 자신의 시간을 관리하도록 돕습니다.
• 자살이나 자해에 대한 지시와 같은 유해한 요청을 거부하고, 보다 안전한 응답으로 전환하면서 지역 위기 자원을 표시합니다.

전문가 관점

“심리학 연구는 일관되게 사회적 연결이 특히 감정적 고통의 시기에 강력한 보호 요인임을 보여줍니다. 사람들에게 사전에 신뢰할 수 있는 사람을 지정하도록 돕고, 그들의 선택과 자율성을 보장함으로써, 가장 필요할 때 실제 지원에 손을 뻗기 쉽게 만들 수 있습니다.” — Dr. Arthur Evans, 미국 심리학회 최고경영자

“AI의 가장 큰 약속 중 하나는 진정한 인간‑대‑인간 연결과 심리적 안전을 촉진할 수 있다는 점입니다. 저는 ChatGPT의 신뢰할 수 있는 연락처 기능이 특히 취약한 순간에 인간의 역량을 강화하는 한 걸음이라 생각해 고무됩니다.” — Dr. Munmun De Choudhury, Ph.D., 조지아 공대 인터랙티브 컴퓨팅 J. Z. Liang 교수이자 웰빙·AI 전문가 위원회 위원

향후 방향

신뢰할 수 있는 연락처는 어려운 순간에 사람들을 돕는 AI 시스템을 구축하려는 OpenAI의 광범위한 노력의 일부입니다. OpenAI는 임상가, 연구자, 정책 입안자와 협력하여 사람들이 고통을 겪을 때 AI 시스템이 어떻게 대응할지를 개선해 나갈 것이며, AI가 사용자를 가장 중요한 실제 돌봄, 관계 및 자원과 연결하도록 목표합니다.