OpenAI 承诺投入 200 万美元用于 AI 与儿童安全研究

对青少年 AI 安全研究的承诺

OpenAI 已正式加入《儿童 AI 安全参与宪章》(Charter of Engagement for Safer AI for Children),并承诺向“AI 时代儿童权利与保护联盟”(Coalition for Children’s Rights and Protection in the Age of AI) 提供 200 万美元的资金支持。该倡议旨在促进关于人工智能如何影响儿童的独立科学研究,重点关注人工智能对儿童发展的潜在风险以及在学习和创造力方面的机遇。

支持共享测量工具

这 200 万美元的捐款专门用于开发共享测量工具。这些资源旨在为研究人员提供评估 AI 系统的标准化方法,从而更好地了解这些技术如何与年轻用户互动。通过创建这些工具,该倡议旨在为开发更安全的 AI 产品和更有效的公共政策提供实证基础。

独立研究原则

该宪章的核心组成部分是保护研究的独立性。根据协议,参与的研究团队对其方法论和结论保持完全控制权。该计划要求公布所有研究结果,包括那些负面或不确定的结果,以确保透明度并防止在 AI 安全证据基础中出现偏见。

政策与立法倡导

这一研究倡议与 OpenAI 在更广泛范围内倡导的全面青少年 AI 安全立法相一致。该公司支持优先考虑以下要素的监管框架:

  • 适合年龄的保障措施: 针对儿童发展需求量身定制的默认保护措施。
  • 家长工具: 为监护人提供监督和控制的功能。
  • 定期风险评估: 对潜在危害进行持续评估和缓解。
  • 有效的问责制: 确保开发者对其工具的安全性负责的结构。

OpenAI 已表示打算就《欧盟儿童法案》(EU Kids Act) 的制定与欧洲政策制定者进行接触,并与国际合作伙伴合作,以协调 AI 时代青少年安全的标准。

Sources