OpenAI 儿童安全蓝图

OpenAI 已推出儿童安全蓝图，这是一个政策框架，旨在加强美国儿童保护框架，以在人工智能时代打击儿童性剥削和虐待（CSAM）。该蓝图旨在通过整合法律、运营和技术策略来识别风险并加快响应，从而防止伤害。

儿童保护的三个关键优先事项

儿童安全蓝图聚焦于三个主要支柱，以应对生成式人工智能带来的不断演变的威胁：

1. 现代化法律框架

OpenAI 倡导现代化法律，以专门应对人工智能生成和修改的 CSAM，确保法律框架能够跟上生成式人工智能的技术能力。

2. 改进报告和协调

该蓝图强调加强人工智能提供者与执法部门之间的协调和报告流程，以支持对儿童剥削进行更有效的调查。

3. 实施安全设计

OpenAI 提议直接在人工智能系统中构建安全设计措施。这种方法侧重于在系统层面防止和检测滥用，以在剥削行为发生之前予以中断。

协作开发与行业标准

该框架是在与领先的儿童安全组织和专家合作下制定的，包括国家失踪和被剥削儿童中心（NCMEC）、Thorn 以及总检察长联盟（AGA），具体是其人工智能特别工作组共同主席、北卡罗来纳州总检察长 Jeff Jackson 和犹他州总检察长 Derek Brown。

分层防御与预防架构

根据州总检察长 Jeff Jackson 和 Derek Brown 的说法，生成式人工智能的有效防护措施需要“分层防御”，而不仅仅是单一的技术控制。他们强调，以下组合是必要的：

• 检测机制
• 拒绝机制
• 人工监督
• 对新兴滥用模式的持续适应

人工智能与儿童安全的专家观点

行业和儿童安全领导者强调了风险以及跨部门合作的必要性：

"生成式人工智能正在以令人深感担忧的方式加速在线儿童性剥削犯罪——降低门槛、扩大规模并实现新的危害形式。" — Michelle DeLaune, President & CEO, National Center for Missing & Exploited Children

"在上游正确构建预防架构是行业在儿童安全方面可以进行的最高杠杆投资。" — State Attorneys General Jeff Jackson and Derek Brown