OpenAI는 청소년 AI 안전을 위한 캘리포니아 상원법안 1119호를 지지합니다

OpenAI는 청소년이 AI를 사용할 때 필수적인 안전 보호 조치를 마련하려는 캘리포니아 상원법안 1119호(SB 1119)를 지지합니다. 이 지지는 연방 차원의 조치가 없는 상황에서 청소년 AI 안전에 대한 강력한 기준을 마련하기 위한 것으로, 청소년들이 학습과 생산성 향상을 위해 AI 도구에 접근할 수 있도록 하면서도 강력한 기본 보호 조치를 유지하는 것을 목표로 합니다.

SB 1119의 주요 요구사항

상원법안 1119은 책임성과 연령에 적합한 보호 조치를 결합한 프레임워크를 제안합니다. OpenAI는 이 법안에서 제시된 다음 요구사항을 특히 지지합니다:

• 연령 확인: 사용자의 연령을 확인할 수 있는 기능.
• 위험 평가: 청소년에게 제품을 제공하기 전에 안전 위험을 식별하고 대응하는 절차.
• 독립 감사: 제품이 독립 감사 과정을 거치도록 요구.
• 해로운 콘텐츠 보호: 성적 착취 콘텐츠 및 자해와 같은 고위험 상호작용과 해로운 콘텐츠로부터 청소년을 보호.
• 부모의 감독: 부모가 자녀의 AI 사용을 안내하고 제한할 수 있는 도구 제공.
• 위기 지원: 심각한 안전 위험이 감지되었을 때 청소년을 위기 지원 자원과 연결.
• 데이터 프라이버시: 타겟 광고를 제한하고 청소년의 개인정보를 보호.

13세에서 17세 사이로 식별된 사용자에게는 이러한 보호 조치가 자동으로 적용되도록 설계되어 있습니다.

테니스용 ChatGPT 및 내장된 안전 기능

OpenAI는 18세 미만 사용자를 위한 "ChatGPT for Teens" 경험을 구현했습니다. 사용자가 13세에서 17세 사이의 나이를 밝히거나, 시스템이 그들이 18세 미만이라고 추정하면, 자동으로 이 전용 경험으로 이동합니다. 이러한 보호 조치는 선택 사항이 아니라 기본 요구사항입니다.

교육 도구

ChatGPT for Teens는 교사와 학습 전문가들과 협력하여 개발된 기능을 포함하여 비판적 사고와 학습 습관을 지원합니다. 예를 들어:

• 퀴즈
• 학습 시각화
• 스터디 모드 (학생이 문제를 단계별로 해결할 수 있도록 안내하는 기능)

안전성 및 맥락의 지속성

OpenAI는 맥락과 기억 기능을 활용하여 보호 조치를 일관되게 적용하고 시간이 지남에 따라 우려되는 패턴을 인식합니다. 이러한 지속성 덕분에 청소년은 프로젝트를 장기간 진행하면서 다시 시작하지 않아도 되며, 청소년이 추가 자원이 필요할 때 더 효과적인 응답을 받을 수 있습니다.

지속적인 안전 프레임워크 및 원칙

OpenAI는 제품 개발 및 Model Spec에 여러 안전 조치를 통합해 왔으며, 다음과 같은 사항을 포함합니다:

• 부모 통제 도구: 가족이 설정을 관리하고 고위험 상황에서 알림을 받을 수 있는 도구.
• 연령 예측: 사용자의 연령을 추정하여 적절한 보호 조치를 적용하는 시스템.
• 청소년 안전 블루프린트: 청소년 안전을 위한 전략적 프레임워크.
• Model Spec 가이드라인: AI가 로맨스 관계를 맺거나 정서적 의존을 유도하거나 인간이나 의식이 있다고 주장하는 것을 금지하는 규정.

OpenAI는 SB 1119가 AI 기술의 발전에 발맞춰 지속적인 연구와 협업을 통해 개선될 수 있는 프레임워크라고 보고 있습니다.

"이 법안은 청소년이 AI를 안전하게 사용할 수 있도록 하는 중요한 첫걸음입니다. 우리는 이를 통해 청소년의 안전을 최우선으로 삼고, 기술이 그들의 삶에 긍정적인 영향을 미칠 수 있도록 노력할 것입니다." — @OpenAI