ChatGPT 青少年版:注重学习且具有增强安全保护的 AI
OpenAI 推出了 ChatGPT 青少年版,这是专为 13 至 17 岁用户设计的专属体验,旨在培养批判性思维和学习能力,同时实施更强大的内置安全保护措施。如果用户声明其年龄在 13 至 17 岁之间,或者系统估计其处于该年龄段,系统会自动将用户置于此体验中。
教育工具与教学设计
ChatGPT 青少年版专注于主动、协作式学习,而非直接提供答案,其设计参考了学习科学,以提高长期记忆和理解力。
学习模式与学习功能
学习模式采用支架式教学、元认知提示和引导性问题,帮助学生逐步解决问题。关键功能包括:
- 学习模式: 使用引导性问题来支持对材料的理解。
- 作业提醒: 识别试图走捷径完成作业的行为,并将用户重定向至学习模式以进行协作式问题解决。
- 测验与学习可视化: 提供用于练习和将困难概念可视化的工具。
- 学习时间: 允许青少年或家长安排特定时间,在此期间默认启用学习模式,以建立常规的学习习惯。
OpenAI 表示,这些工具基于研究,研究表明主动检索和自我解释比被动复习更有效。对学习模式的早期评估已显示出学生表现有显著提升。
与课堂学习的结合
ChatGPT 青少年版被定位为课堂之外的学习工具。对于机构使用,OpenAI 提供 ChatGPT 教师版,为教育工作者和学区提供安全、受管理的访问权限。
安全保护与家长控制
基于 Model Spec 中的“18 岁以下原则”,并结合发展科学,所有 18 岁以下的用户都会默认启用安全保护措施。
内容护栏
该体验包括针对年龄适宜的模型保护和在高风险领域的产品干预,具体包括:
- 自残
- 暴力
- 饮食失调
- 显性性内容或露骨内容
- 危险活动
家长监督
在现有家长控制功能的基础上,拥有关联账户的家长可以:
- 设置“静默时间”以限制使用。
- 管理选定的设置。
- 在有限的高风险情况下接收安全通知,包括专门针对饮食失调的新通知。
促进健康的 AI 使用习惯
OpenAI 已实施相关功能,以防止情感依赖并鼓励 AI 使用与现实世界互动之间的平衡。
行为约束
根据更新后的 18 岁以下模型规范,ChatGPT 青少年版被禁止:
- 使用浪漫语言。
- 鼓励情感依赖。
- 实施浪漫或性化的角色扮演。
- 暗示其拥有意识或情感。
用户体验提示
为了在 AI 与人类关系之间保持清晰的界限,平台包括:
- 休息提醒: 鼓励用户远离 AI。
- 敏感图像上传提醒: 提醒青少年不要分享私密或敏感图像。
- 青少年专属入门引导: 在开始时介绍安全和学习功能。
- 个性化: 提供辅助色和语音变化,以实现工具的个性化,而不会将其拟人化。
合作伙伴关系与现实世界应用
OpenAI 已与 CodeAI 合作,为学生和教育工作者提供资源,以了解 AI 如何工作、如何引导它,以及如何利用它进行创作。
此次发布强调了青少年使用 AI 解决复杂问题的案例,例如 WiFind(一个利用 Wi-Fi 信号定位幸存者的搜索与救援系统)和 Audemy(一个面向盲人学生的基于音频的教育游戏平台)。
安全研究与透明度
OpenAI 正在将其 18 岁以下评估纳入其系统卡片(system cards)中,以公开分享模型在针对青少年的特定标准下的表现。这些评估侧重于敏感内容领域,包括暴力、自残、饮食失调,以及受年龄限制的商品和服务。
Sources
相关
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch