OpenAI 青少年安全与学习框架

OpenAI 正在实施一个框架，提供适龄的保护措施和以学习为重点的工具，以确保青少年能够安全访问 AI。这种方法基于以下前提：AI 是当前一代的定义性技术，而将访问限制到成年之前会让青少年在面对未来时缺乏准备。

以学习为重点的工具与学习模式

OpenAI 正在将青少年的 AI 互动重点从提供即时答案转变为培养主动参与和批判性思维。

学习模式

学习模式是在与教育学专家、学习科学家和教师合作下开发的。它不仅仅提供答案，而是通过结构化的解释、引导性问题和反思机会，帮助学生逐步解决问题。早期评估表明，这些工具已经带来了学生表现的显著提升。

教育支持功能

为了促进学术使用，OpenAI 推出了以下几项具体增强：

• 家长激活：拥有关联青少年账户的家长现在可以通过家长控制直接启用学习模式，使其成为青少年发起的所有新聊天的默认设置。
• 入门提示：新的教育导向提示帮助青少年拆解复杂主题、制作闪卡、生成练习题，并将笔记转化为学习指南。
• 互动体验：ChatGPT 现在为超过 300 个数学和科学主题提供互动学习体验，目前每周有 1800 万用户使用。
• 语言学习：全新的发音体验利用音频帮助用户在超过 61 种语言中学习发音。

针对青少年用户的内置防护措施

当 ChatGPT 判断用户未满 18 岁时，它会自动应用更适龄的体验，并加强防护栏杆以降低接触有害内容的风险。

内容防护

实施了更强的防护措施以防止接触以下内容：

• 图形暴力
• 自残
• 有风险的病毒式挑战
• 不健康的身体形象内容
• 危险的、浪漫的或带有性暗示的角色扮演

行为健康与习惯养成

为了鼓励平衡的科技使用习惯，ChatGPT 现在会为长时间使用平台的青少年提供更频繁的休息提醒。

家长控制与通知

OpenAI 已开发工具，帮助家长管理青少年的 AI 使用：

• 控制设置：家长可以设置安静时段、关闭语音模式，并管理图像生成的访问权限。
• 高风险通知：在出现潜在自残迹象等高风险情况下，家长会收到通知。
• 政策违规警报：通知正在扩展，以包括关联青少年账户因违反有关暴力威胁或线上暴力行为的使用政策而被停用的情况。

协作安全生态系统

OpenAI 与外部专家和组织合作，以完善其安全政策并评估其防护措施的有效性。

专家合作伙伴关系

OpenAI 与儿童安全专家、心理健康专业人士、研究人员、政府和教育工作者合作。具体而言，公司咨询了 Moonshot（在防止线上暴力方面的领导者），以确保干预措施周到且有效。

行业成员资格

OpenAI 已加入家庭在线安全研究所（FOSI），以推动全行业范围内加强适龄保护和家长工具的努力。

未来路线图

OpenAI 计划继续加强适龄保护并改进针对严重危害的防护措施。未来的工作将重点放在推进健康 AI 使用的研究，以及扩展有助于青少年主动且自信学习的体验。