OpenAI 对 ChatGPT 的年龄预测
OpenAI 已在 ChatGPT 消费者计划中引入年龄预测,以识别可能属于未满 18 岁用户的账户。该系统使 OpenAI 能够针对青少年应用特定的安全防护措施和体验修改,同时为成年人保持标准体验。
年龄预测机制与信号
ChatGPT 使用专用的年龄预测模型来估计账户持有者是否未满 18 岁。模型会分析账户层面和行为层面的多种信号来做出判断。这些信号包括:
- 账户年龄(账户存在的时长)
- 一天中典型的活跃时间
- 随时间变化的使用模式
- 用户声明的年龄
当模型对年龄估计缺乏信心或信息不完整时,会默认提供更安全的体验。
青少年安全防护措施与内容限制
当预测账户属于未满 18 岁的用户时,ChatGPT 会自动应用额外的保护,以减少接触敏感或有害内容的风险。这些限制基于关于儿童发展 的学术文献,特别关注青少年在风险感知、冲动控制和情绪调节方面的差异。
具体的内容限制包括防止以下内容:
- 暴力血腥或血腥画面
- 鼓励冒险或有害行为的网络挑战
- 性的、浪漫的或暴力的角色扮演
- 自残描绘
- 极端审美标准、不健康的节食或身体羞辱的描绘
身份验证与家长控制
被错误识别为未满 18 岁的用户可以通过 Persona(安全的身份验证服务)提交自拍进行年龄验证,以恢复完整访问权限。此验证流程可在 设置 > 账户 中启动。
除了系统预测的防护措施外,家长还可以使用可自定义的家长控制功能。这些功能包括:
- 设置“安静时段”以限制 ChatGPT 使用时间
- 控制模型训练和记忆功能
- 当系统检测到急性困扰迹象时收到通知
区域推广与未来发展
年龄预测目前正逐步推出,计划在未来几周内针对欧盟进行特定部署,以满足地区性要求。OpenAI 正与全球医师网络、ConnectSafely 以及美国心理学会的专家合作,完善这些防护措施并应对规避防护的尝试。
Sources
- OriginalOur approach to age prediction