ChatGPT 青少年版:注重学习且具有增强安全保护的 AI

OpenAI 推出了 ChatGPT 青少年版,这是专为 13 至 17 岁用户设计的专属体验,旨在培养批判性思维和学习能力,同时实施更强大的内置安全保护措施。如果用户声明其年龄在 13 至 17 岁之间,或者系统估计其处于该年龄段,系统会自动将用户置于此体验中。

教育工具与教学设计

ChatGPT 青少年版专注于主动、协作式学习,而非直接提供答案,其设计参考了学习科学,以提高长期记忆和理解力。

学习模式与学习功能

学习模式采用支架式教学、元认知提示和引导性问题,帮助学生逐步解决问题。关键功能包括:

  • 学习模式: 使用引导性问题来支持对材料的理解。
  • 作业提醒: 识别试图走捷径完成作业的行为,并将用户重定向至学习模式以进行协作式问题解决。
  • 测验与学习可视化: 提供用于练习和将困难概念可视化的工具。
  • 学习时间: 允许青少年或家长安排特定时间,在此期间默认启用学习模式,以建立常规的学习习惯。

OpenAI 表示,这些工具基于研究,研究表明主动检索和自我解释比被动复习更有效。对学习模式的早期评估已显示出学生表现有显著提升。

与课堂学习的结合

ChatGPT 青少年版被定位为课堂之外的学习工具。对于机构使用,OpenAI 提供 ChatGPT 教师版,为教育工作者和学区提供安全、受管理的访问权限。

安全保护与家长控制

基于 Model Spec 中的“18 岁以下原则”,并结合发展科学,所有 18 岁以下的用户都会默认启用安全保护措施。

内容护栏

该体验包括针对年龄适宜的模型保护和在高风险领域的产品干预,具体包括:

  • 自残
  • 暴力
  • 饮食失调
  • 显性性内容或露骨内容
  • 危险活动

家长监督

在现有家长控制功能的基础上,拥有关联账户的家长可以:

  • 设置“静默时间”以限制使用。
  • 管理选定的设置。
  • 在有限的高风险情况下接收安全通知,包括专门针对饮食失调的新通知。

促进健康的 AI 使用习惯

OpenAI 已实施相关功能,以防止情感依赖并鼓励 AI 使用与现实世界互动之间的平衡。

行为约束

根据更新后的 18 岁以下模型规范,ChatGPT 青少年版被禁止:

  • 使用浪漫语言。
  • 鼓励情感依赖。
  • 实施浪漫或性化的角色扮演。
  • 暗示其拥有意识或情感。

用户体验提示

为了在 AI 与人类关系之间保持清晰的界限,平台包括:

  • 休息提醒: 鼓励用户远离 AI。
  • 敏感图像上传提醒: 提醒青少年不要分享私密或敏感图像。
  • 青少年专属入门引导: 在开始时介绍安全和学习功能。
  • 个性化: 提供辅助色和语音变化,以实现工具的个性化,而不会将其拟人化。

合作伙伴关系与现实世界应用

OpenAI 已与 CodeAI 合作,为学生和教育工作者提供资源,以了解 AI 如何工作、如何引导它,以及如何利用它进行创作。

此次发布强调了青少年使用 AI 解决复杂问题的案例,例如 WiFind(一个利用 Wi-Fi 信号定位幸存者的搜索与救援系统)和 Audemy(一个面向盲人学生的基于音频的教育游戏平台)。

安全研究与透明度

OpenAI 正在将其 18 岁以下评估纳入其系统卡片(system cards)中,以公开分享模型在针对青少年的特定标准下的表现。这些评估侧重于敏感内容领域,包括暴力、自残、饮食失调,以及受年龄限制的商品和服务。

Sources

相关

  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch