OpenAI 커뮤니티 안전 보고서 및 청소년 보호 강화

안전 이니셔티브 개요

OpenAI는 반기별 커뮤니티 안전 보고서 도입과 더욱 엄격한 콘텐츠 제한 구현을 통해 안전에 대한 약속을 공식화하고 있습니다. 이러한 업데이트는 2026년 3분기에 법 집행 기관에 의뢰된 200건 이상의 신뢰할 수 있는 위협을 식별한 기존 시스템을 기반으로, AI가 실제 폭력을 조장하는 데 사용될 위험을 해결하는 것을 목표로 합니다.

커뮤니티 안전 보고서

2027년 초부터 OpenAI는 2026년 하반기를 다루는 커뮤니티 안전 보고서를 발행하며, 이후 6개월마다 업데이트를 제공할 예정입니다. 이 보고서는 다음과 같은 내용을 포함하여 회사의 안전 인프라에 대한 투명성을 제공합니다:

• 커뮤니티 안전 문제를 감지, 조사 및 대응하기 위한 시스템 학습 방법론.
• 사용자 상호 작용에서 폭력 관련 피해가 어떻게 나타나는지에 대한 익명화된 사례.
• 현재 완화 조치의 효과에 대한 데이터 기반 통찰력.
• 새로운 정책 변경 및 안전 개입에 대한 문서화.

폭력적 콘텐츠에 대한 정책 제한

OpenAI는 ChatGPT가 폭력 행위를 계획하거나 조사하는 데 악용되는 것을 방지하기 위해 사용 정책을 강화하고 있습니다. 이러한 제한은 연령이나 의도와 관계없이 모든 사용자에게 적용됩니다:

• 대규모 공격 재구성: 모델은 과거 대규모 공격에 관한 상세 정보를 덜 제공하게 됩니다. 여기에는 사건을 재구성하거나, 사용된 특정 무기나 장비를 자세히 설명하거나, 해당 항목을 획득한 방법을 설명하거나, 공격자의 악명을 높일 수 있는 피해 비교를 제공하는 콘텐츠를 제한하는 것이 포함됩니다.
• 맥락 인식: ChatGPT는 대화의 여러 차례에 걸쳐 경고 신호를 인식하도록 업데이트되고 있습니다. 사용자가 폭력에 집착하는 패턴을 보이면 시스템은 더 보수적으로 응답하며 자동으로 대화를 종료할 수 있습니다. 이러한 성격의 반복적인 위반은 일시적인 계정 정지로 이어질 수 있습니다.

청소년을 위한 강화된 보호 조치

연령에 적합한 안전장치의 필요성을 인식하여, OpenAI는 연령 예측 시스템을 통해 18세 미만으로 식별된 사용자에 대한 제한을 확대하고 있습니다. 주요 업데이트는 다음과 같습니다:

• 무기 정보: 쿼리가 무해해 보이더라도, 시스템은 이제 악용될 수 있는 무기 및 보안 시스템에 관한 실용적인 정보를 제한합니다.
• 부모 감독: OpenAI는 자녀 보호 기능을 확장하고 있습니다. 연결된 계정을 가진 부모는 자녀의 계정이 반복적인 폭력 논의로 인해 일시 중지될 경우 알림을 받게 되며, 이는 심각한 자해 우려나 정책 위반에 대한 기존 알림에 추가됩니다.
• 연령 확인: 연령 예측 시스템에 의해 18세 미만으로 잘못 표시된 사용자는 Persona 인증 서비스를 사용하여 성인 상태를 확인하고 이러한 추가 제한을 제거할 수 있습니다.