OpenAI 青少年 AI 安全提案与全球领导倡议
OpenAI 青少年 AI 安全提案与全球领导倡议
OpenAI 呼吁创建一个国际青少年安全研究所，并采纳一个全球框架，以使用 AI 保护未成年人。此倡议旨在统一适龄防护措施，确保 AI 作为学习和机遇的工具，而非人类发展的替代品。
国际青少年安全研究所提案
OpenAI 提议设立一个专门的国际青少年安全研究所，以在单独峰会之外提供全球协调的连续性。该研究所将作为政府、研究人员、民间社会和行业共享证据、制定指导方针并随时间提高安全标准的枢纽。
OpenAI 建议为此研究所提供两条主要实施路径：
- 全新国际组织：一个专注于青少年 AI 安全的独立实体。
- 扩大授权：赋予现有或新设立的国家 AI 研究所全球授权，以与国际伙伴共享研究和指导。
此提案建立在现有工作之上，包括 Common Sense Media 的青少年 AI 安全研究所（由 OpenAI 基金会支持）、与美国教师联合会的合作，以及以研究驱动的部署，例如在爱沙尼亚学校进行的全国 ChatGPT 推出，该项目由斯坦福大学和爱沙尼亚研究者合作开展。
全球青少年 AI 安全标准九点框架
OpenAI 已列出九项核心原则，以指导强有力的 AI 青少年安全框架和 G7 协议的制定：
- 适龄防护：提供者必须使用保护隐私的年龄估计来识别未成年人，并在用户年龄未知时默认采用防护措施。
- 主动风险评估：公司应进行年度青少年安全风险评估，以在潜在危害发生前加以应对，同时也要衡量学习和创造力等积极成果。
- 家长控制：监护人应能够使用易于访问的工具来管理记忆、数据使用和时间限制，且这些工具应积极向家庭推广。
- 透明度：公司必须发布清晰的安全政策，说明针对年轻用户的防护措施以及这些防护如何随时间演变。
- 高风险协议：必须存在明确的协议来应对严重的安全情形，包括自残、剥削、引诱和性剥削内容，包括转介资源和家长通知。
- 对发展的支持：AI 应被设计为支持学习和现实世界的人际关系，而不是取代它们，在需要人类判断和专业支持的地方保持边界。
- 隐私保护：必须保护未成年人的个人信息，具体而言，禁止出售个人数据和隐私侵入式的定向广告。
- 推广素养：框架应推广 AI 素养和批判性思维技能，使年轻人能够负责任且自信地使用 AI。
- 问责与审计：基于通用、可互操作标准的独立审计以及立法监督是必要的，以确保防护措施得到有效实施。
在 ChatGPT 中的实施与全球教育
OpenAI 通过特定的产品设计和行为指南将这些原则融入 ChatGPT：
- 未成年人防护：围绕身体形象、危险活动、图形内容、自残和保密性的防护栏已针对未满 18 岁用户得到加强。
- 模型规范：针对未满 18 岁用户的专门原则，优先提供适龄体验并鼓励寻求线下支持。
- 年龄预测：先进的年龄预测系统，在怀疑用户为未成年人时会施加更强的防护。
除了产品安全，OpenAI 的“面向国家的教育”计划正在与爱沙尼亚、希腊和新加坡的政府合作，提供本地化学习工具、教师培训和以研究驱动的部署，以确保 AI 的采用符合实际课堂需求。
G7 峰会与 OpenAI 论坛
OpenAI 将参加在法国埃维昂举行的 G7 领导人峰会，以讨论行业标准和所提出的青少年安全研究所。此外，OpenAI 将在巴黎举办 OpenAI 论坛，届时将有法国人工智能与数字事务大使 Clara Chappaz、OpenAI 首席全球事务官 Chris Lehane 以及 iRaise/Everyone.AI 的专家参与讨论。