OpenAI 日本青少年安全蓝图
OpenAI 日本宣布了日本青少年安全蓝图，这是一套旨在确保青少年安全使用生成式 AI 的框架。该倡议将安全置于便利、隐私或使用自由之上，以降低误导信息、不当内容以及对年轻用户的心理压力等风险。
日本青少年安全蓝图的关键支柱
日本青少年安全蓝图基于四个主要的技术和运营支柱：
基于年龄的保护
OpenAI 将实施注重隐私、基于风险的年龄估计，以区分青少年和成年人。这使平台能够针对该年龄段提供特定的保护。对于认为年龄判定有误的用户，将提供申诉渠道。
加强未成年人的安全政策
针对 18 岁以下用户的安全政策正在加强，以防止 AI：
- 生成露骨的性或暴力内容。
- 描绘或鼓励自残或自杀。
- 鼓励危险行为。
- 强化有害的身体形象。
响应设计为符合发展阶段的适宜性。此外，AI 被限制帮助未成年人向父母或监护人隐瞒风险行为、症状或健康相关的担忧。
扩展家长控制
OpenAI 正在推出帮助家庭自定义保护的工具，包括：
- 账户关联
- 隐私和设置控制
- 使用时间管理
- 面向家长和监护人的提醒
以健康为中心的设计
OpenAI 与临床医生、研究人员、教育工作者和儿童安全专家合作，开发诸如休息提醒和通向现实支持渠道的功能。公司还在研究 AI 对青少年心理健康和成长的影响。
现有安全措施
新蓝图基于已在 ChatGPT 中集成的现有安全措施，包括：
- 自残检测： 检测潜在自残信号并引导用户获取现实资源的系统。
- 使用提醒： 产品内提醒，鼓励用户在长时间使用时进行休息。
- 滥用监控： 多层安全系统和滥用监控。
- CSAM 防护： 行业领先的防止 AI 生成儿童性剥削材料的措施。
行业与社会合作
OpenAI 日本强调，保护青少年是包括公司、政府、教育者和家庭在内的共同责任。公司计划通过透明对话与家长、政策制定者和当地社区合作，使这些保护措施成为行业标准。
“保护在 AI 环境中成长的一代的安全是全社会共同的责任——包括公司、政府、教育者和家庭。OpenAI 致力于与日本各方利益相关者紧密合作，帮助营造一个让年轻用户能够自信地学习、创作和发挥潜能的环境。”
—Kazuya Okubo，OpenAI 日本政策与合作负责人