OpenAI 兒童安全藍圖

OpenAI 已推出兒童安全藍圖，這是一個政策框架，旨在加強美國兒童保護框架，以在 AI 時代打擊兒童性剝削與虐待（CSAM）。此藍圖旨在透過整合法律、營運與技術策略來識別風險並加速回應，以預防傷害。

兒童保護的三個關鍵優先事項

兒童安全藍圖聚焦於三個主要支柱，以應對生成式 AI 帶來的不斷演變的威脅：

1. 現代化法律框架

OpenAI 主張現代化法律，以專門應對 AI 生成和修改的 CSAM，確保法律框架能跟上生成式 AI 的技術能力。

2. 改進報告與協調

此藍圖強調加強 AI 提供者與執法機構之間的協調與報告流程，以支持對兒童剝削進行更有效的調查。

3. 實施安全設計

OpenAI 提議直接在 AI 系統中內建安全設計措施。此方法著重於在系統層級預防與偵測濫用，以在發生之前中斷剝削嘗試。

協作開發與產業標準

此框架是在與領先的兒童安全組織及專家合作下開發的，包括失踪與被剝削兒童國家中心（NCMEC）、Thorn，以及總檢察長聯盟（AGA），具體而言是其 AI 特別工作隊共同主席、北卡羅來納州總檢察長 Jeff Jackson 和猶他州總檢察長 Derek Brown。

多層防禦與預防架構

根據北卡羅來納州總檢察長 Jeff Jackson 和猶他州總檢察長 Derek Brown 的說法，生成式 AI 的有效防護措施需要「多層防禦」，而非單一的技術控制。他們強調，以下組合是必要的：

• 偵測機制
• 拒絕機制
• 人工監督
• 對新興濫用模式進行持續適應

專家對 AI 與兒童安全的觀點

產業與兒童安全領導者強調跨部門合作的風險與必要性：

"生成式 AI 正以令人深感困擾的方式加速線上兒童性剝削犯罪——降低門檻、擴大規模並啟用新型傷害形式。" — Michelle DeLaune，總統兼首席執行官，失踪與被剝削兒童國家中心 "正確上游預防架構是產業在兒童安全方面能夠進行的最高杠桿投資。" — 北卡羅來納州總檢察長 Jeff Jackson 和猶他州總檢察長 Derek Brown