OpenAI 对 ChatGPT 的年龄预测

OpenAI 已在 ChatGPT 消费者计划中引入年龄预测,以识别可能属于未满 18 岁用户的账户。该系统使 OpenAI 能够针对青少年应用特定的安全防护措施和体验修改,同时为成年人保持标准体验。

年龄预测机制与信号

ChatGPT 使用专用的年龄预测模型来估计账户持有者是否未满 18 岁。模型会分析账户层面和行为层面的多种信号来做出判断。这些信号包括:

  • 账户年龄(账户存在的时长)
  • 一天中典型的活跃时间
  • 随时间变化的使用模式
  • 用户声明的年龄

当模型对年龄估计缺乏信心或信息不完整时,会默认提供更安全的体验。

青少年安全防护措施与内容限制

当预测账户属于未满 18 岁的用户时,ChatGPT 会自动应用额外的保护,以减少接触敏感或有害内容的风险。这些限制基于关于儿童发展 的学术文献,特别关注青少年在风险感知、冲动控制和情绪调节方面的差异。

具体的内容限制包括防止以下内容:

  • 暴力血腥或血腥画面
  • 鼓励冒险或有害行为的网络挑战
  • 性的、浪漫的或暴力的角色扮演
  • 自残描绘
  • 极端审美标准、不健康的节食或身体羞辱的描绘

身份验证与家长控制

被错误识别为未满 18 岁的用户可以通过 Persona(安全的身份验证服务)提交自拍进行年龄验证,以恢复完整访问权限。此验证流程可在 设置 > 账户 中启动。

除了系统预测的防护措施外,家长还可以使用可自定义的家长控制功能。这些功能包括:

  • 设置“安静时段”以限制 ChatGPT 使用时间
  • 控制模型训练和记忆功能
  • 当系统检测到急性困扰迹象时收到通知

区域推广与未来发展

年龄预测目前正逐步推出,计划在未来几周内针对欧盟进行特定部署,以满足地区性要求。OpenAI 正与全球医师网络、ConnectSafely 以及美国心理学会的专家合作,完善这些防护措施并应对规避防护的尝试。

Sources