OpenAI 与美国心理学会合作关注青少年心理健康与 AI

OpenAI 与美国心理学会 (APA) 已达成合作伙伴关系，旨在将心理科学和临床专业知识融入到面向年轻人的负责任 AI 的开发中。此次合作旨在确保 AI 设计和防护措施建立在循证行为科学的基础上，以保护并促进青少年、家庭和临床医生的福祉。

AI 开发中心理科学的整合

OpenAI 正与 APA 合作，以确保 AI 系统的设计符合发展阶段并对年轻用户安全。该合作伙伴关系专注于将发展科学和临床专业知识带给系统构建者，以确保 AI 能够强化而非取代年轻人所依赖的现实世界关系和护理。

重点关注领域

该合作伙伴关系将解决几个关键领域，以改善青少年的 AI 体验：

• 在困境时刻提供支持： 探索 AI 如何在青少年处于困境时期负责任地提供协助，并帮助他们联系到现实世界的支持。
• 发展阶段的适用性： 设计更适合不同青少年年龄组、更具实用性且符合其发展阶段的 AI。
• 为照顾者提供指导： 为家长和照顾者配备工具和知识，以引导健康的 AI 使用习惯。
• 系统差距分析： 召集青少年、家庭和临床医生，以了解 AI 目前在学校、治疗和家庭环境中的使用情况，从而识别当前支持系统的不足之处，以及 AI 在何处可以负责任地协助提供获取途径和教育。

为家长、照顾者和从业者提供的资源

OpenAI 与 APA 计划为以下群体开发实用且易于获取的资源：

• 家长和照顾者： 面向家庭的工具，旨在帮助成年人支持健康的 AI 使用，识别何时需要成年人介入，并强化 AI 仅是一种工具，而非人类护理的替代品。
• 临床医生和学校心理学家： 专注于促进健康的 AI 使用、识别过度依赖 AI 的迹象，以及干预不健康的利用模式的资源。

现有的安全框架与防护措施

此次合作伙伴关系建立在 OpenAI 针对年轻用户和敏感交互的现有安全基础设施之上：

• 心理健康专家协作： OpenAI 与 260 多名心理健康专家合作，以提高 ChatGPT 识别困境迹象并引导用户寻求现实世界支持的能力。
• 危机资源： 系统包括扩大获取本地化危机资源和一键拨打热线的权限。
• 以家庭为中心的控制： 实施家长控制功能、向家长发送有关安全问题的通知，以及提醒用户休息的提示。
• 技术防护措施： 在 Model Spec 中纳入了针对 18 岁以下人群的原则，并使用年龄预测模型来根据用户的年龄应用适当的防护措施和体验。