OpenAI 日本青少年安全藍圖

OpenAI 日本青少年安全藍圖

OpenAI 日本宣布了日本青少年安全藍圖，這是一個旨在確保青少年安全使用生成式 AI 的框架。此倡議將安全置於便利、隱私或使用自由之上，以減輕錯誤資訊、不當內容以及年輕使用者的心理壓力等風險。

日本青少年安全藍圖的關鍵支柱

日本青少年安全藍圖建立在四個主要的技術與營運支柱之上：

年齡感知保護

OpenAI 將實施注重隱私、基於風險的年齡估算，以區分青少年與成人。這使平台能針對該年齡層套用特定的保護措施。對於認為年齡判定有誤的使用者，將提供申訴程序。

加強未成年使用者的安全政策

針對 18 歲以下使用者的安全政策正被加強，以防止 AI：

  • 產生露骨的性或暴力內容。
  • 描繪或鼓勵自我傷害或自殺。
  • 鼓勵危險行為。
  • 強化有害的身體形象。

回應設計將符合發展階段的適切性。此外，AI 被限制協助未成年人隱瞞危險行為、症狀或健康相關問題，避免向父母或照顧者隱匿。

擴充家長控制功能

OpenAI 正推出工具，協助家庭自訂保護措施，包括：

  • 帳號連結
  • 隱私與設定控制
  • 使用時間管理
  • 家長與照顧者的警示

以福祉為中心的設計

OpenAI 與臨床醫師、研究人員、教育工作者及兒童安全專家合作，開發諸如休息提醒與通往現實支援管道等功能。公司亦在進行有關 AI 對青少年心理健康與發展影響的研究。

現有的安全防護措施

新藍圖在已整合於 ChatGPT 的現有安全措施之上進一步構建，包括：

  • 自我傷害偵測： 能偵測潛在自我傷害訊號並引導使用者前往現實資源的系統。
  • 使用提醒： 產品內的提醒，鼓勵使用者在長時間使用時休息。
  • 濫用監控： 多層次的安全系統與濫用監測。
  • 兒童性剝削材料（CSAM）防護： 業界領先的防止 AI 生成兒童性剝削材料的措施。

產業與社會合作

OpenAI 日本強調，保護青少年是包括公司、政府、教育者與家庭在內的共同責任。公司計畫透過透明對話與家長、政策制定者及地方社群互動，將這些保護措施打造為產業標準。

"保護在 AI 環境中成長的一代的安全是全社會共同的責任——包括公司、政府、教育者與家庭。OpenAI 致力於與日本各地的利益相關者緊密合作，協助打造一個讓年輕使用者能自信地學習、創作與發揮潛能的環境。"

—Kazuya Okubo, 政策與夥伴關係主管，OpenAI 日本

Sources