OpenAI 청소년 안전, 자유 및 프라이버시 프레임워크

OpenAI는 사용자 프라이버시, 개인 자유, 그리고 미성년자 보호 사이의 긴장을 관리하기 위한 새로운 프레임워크를 발표했습니다. 이 회사는 18세 미만 사용자의 안전을 최우선으로 하며, 더 엄격한 콘텐츠 제한과 연령 예측 시스템을 구현하여 미성년자가 성인 사용자보다 높은 수준의 보호를 받도록 하고 있습니다.

프라이버시 보호 및 AI 특권

OpenAI는 AI와의 대화를 개인적으로 민감한 것으로 보고, 의사‑환자 또는 변호사‑의뢰인 특권과 유사한 수준의 보호를 주장합니다. 이 회사는 데이터가 OpenAI 직원에게도 비공개로 유지되도록 고급 보안 기능을 개발하고 있습니다.

심각한 오용을 방지하기 위해 이 프라이버시 기준에는 특정 예외가 있습니다. 자동 시스템이 중요한 위험을 모니터링하며, 생명에 대한 위협, 타인에게 해를 끼칠 계획, 혹은 대규모 사이버 보안 사고와 같은 가장 심각한 위협은 인간 검토를 위해 에스컬레이션될 수 있습니다.

성인 사용자를 위한 자유

성인 사용자에게 OpenAI는 "성인 사용자를 성인처럼 대한다"는 원칙을 따르며, 해를 끼치지 않는 한 가능한 한 자유를 확대합니다. 이는 모델이 특정 사용자 의도를 수용하도록 보다 조정 가능하도록 설계된다는 의미입니다:

• 플러팅 콘텐츠: 기본 동작은 아니지만, 성인 사용자가 명시적으로 요청할 경우 모델은 플러팅 대화를 제공합니다.
• 창작 글쓰기: 모델은 자살 방법에 대한 지침을 제공하지 않지만, 성인 사용자가 자살을 묘사하는 허구의 이야기를 쓰는 데 도움을 줄 수 있습니다.

청소년을 위한 안전 보호

OpenAI는 18세 미만 사용자를 위해 프라이버시와 자유보다 안전을 우선시합니다. ChatGPT는 13세 이상 사용자를 대상으로 하기 때문에, 회사는 미성년자를 보호하기 위해 여러 조치를 시행하고 있습니다:

연령 예측 및 검증

성인과 청소년 사용자를 구분하기 위해 OpenAI는 사용 패턴을 기반으로 연령을 추정하는 연령 예측 시스템을 구축하고 있습니다. 시스템이 사용자의 연령을 확신하지 못할 경우, 기본적으로 18세 미만 경험을 적용합니다. 특정 경우나 국가에서는 연령 확인을 위해 정부 발급 신분증을 요구할 수 있으며, 이는 미성년자 안전을 보장하기 위한 성인에 대한 프라이버시 양보임을 명시합니다.

더 엄격한 콘텐츠 경계

ChatGPT를 사용하는 청소년은 성인보다 더 제한적인 규칙을 적용받게 됩니다. 구체적으로, 모델은 다음을 거부하도록 훈련되고 있습니다:

• 플러팅 대화: 모델은 요청 여부와 관계없이 18세 미만 사용자와 플러팅 대화를 하지 않습니다.
• 자해 및 자살: 모델은 창작 글쓰기나 허구의 맥락에서도 자살이나 자해에 대한 논의를 하지 않습니다.

위기 개입

18세 미만 사용자가 자살 충동을 보이는 경우, OpenAI는 사용자의 부모에게 연락을 시도합니다. 회사가 부모에게 연락할 수 없을 경우, 임박한 위험이 있을 때 당국에 연락합니다.