OpenAI 支持加州参议院第 1119 号法案，以保障青少年 AI 安全

OpenAI 支持加州参议院第 1119 号法案 (SB 1119)，这是一项旨在为使用 AI 的青少年建立强制性安全保障措施的立法努力。这项支持旨在在缺乏联邦行动的情况下，为青少年 AI 安全建立一个强大的标准，确保青少年在获得用于学习和提高生产力的 AI 工具的同时，也能维持强大的默认保护措施。

SB 1119 的关键要求

参议院第 1119 号法案提议了一个将问责制与适龄保护相结合的框架。OpenAI 特别支持该法案中概述的以下要求：

  • 年龄验证： 能够确定用户的年龄。
  • 风险评估： 在向青少年提供产品之前，识别并解决安全风险。
  • 独立审计： 要求产品接受独立审计。
  • 有害内容保护： 保护青少年免受高风险互动和有害内容的侵害，包括性剥削内容和自残内容。
  • 家长监督： 为家长提供工具，以引导和限制其子女的 AI 使用情况。
  • 危机支持： 当检测到严重的安全风险时，将青少年与危机支持资源联系起来。
  • 数据隐私： 限制针对性广告并保护青少年的个人信息。

对于被识别为年龄在 13 至 17 岁之间的用户，这些保护措施旨在自动生效。

面向青少年的 ChatGPT 以及内置保障措施

OpenAI 已经实施了“ChatGPT for Teens”体验，专为 18 岁以下的用户设计。如果用户声明其年龄在 13 至 17 岁之间，或者系统估计其年龄在 18 岁以下，他们将被自动放入这一专门的体验中。这些保护措施是基准要求，而非可选设置。

教育工具

ChatGPT for Teens 包括与教育工作者和学习专家共同开发的、旨在支持批判性思维和学习习惯的功能，例如：

  • 测验 (Quizzes)
  • 学习可视化 (Learning Visualizations)
  • 学习模式 (Study mode)（旨在引导学生逐步解决问题）

安全与上下文连续性

OpenAI 利用上下文和记忆功能来一致地应用保障措施，并随着时间的推移识别令人担忧的模式。这种连续性允许青少年进行长期的学习项目而无需重新开始，并有助于系统在青少年需要额外资源时提供更有效的响应。

持续的安全框架与原则

OpenAI 已将其多项安全措施整合到其产品开发和 Model Spec 中，包括：

  • 家长控制： 为家庭提供管理设置并在高风险情况下接收通知的工具。
  • 年龄预测： 用于估计用户年龄以应用适当保护措施的系统。
  • 青少年安全蓝图 (Teen Safety Blueprint)： 一项针对青少年安全的战略框架。
  • Model Spec 指南： 禁止 AI 参与浪漫关系、鼓励情感依赖或声称自己是人类或有意识的规则。

OpenAI 将 SB 1119 视为一个框架，可以通过在实施过程中持续的研究和协作来不断改进，以跟上不断发展的 AI 技术步伐。

Sources