OpenAI 支持加州參議院第 1119 號法案以維護青少年 AI 安全

OpenAI 支持加州參議院第 1119 號法案 (SB 1119)，這是一項旨在為使用 AI 的青少年建立強制性安全保障措施的立法努力。此項支持旨在於聯邦層級尚未採取行動的情況下，為青少年 AI 安全建立強而有力的標準，確保青少年在獲得用於學習和生產力的 AI 工具之際，也能維持強大的預設保護機制。

SB 1119 的關鍵要求

參議院第 1119 號法案提議了一個結合問責制與適齡保護措施的框架。OpenAI 特別支持該法案中概述的以下要求：

• 年齡驗證： 能夠判斷使用者的年齡。
• 風險評估： 在向青少年提供產品之前，識別並解決安全風險。
• 獨立審計： 要求產品必須經過獨立審計。
• 有害內容保護： 保護青少年免受高風險互動和有害內容的影響，包括性剝削內容和自我傷害。
• 家長監督： 為家長提供工具，以引導並限制其子女的 AI 使用情況。
• 危機支援： 當偵測到嚴重的安全風險時，將青少年與危機支援資源連結起來。
• 數據隱私： 限制針對性廣告並保護青少年的個人資訊。

對於被識別為年齡在 13 至 17 歲之間的用戶，這些保護措施旨在自動套用。

專為青少年設計的 ChatGPT 與內建保障措施

OpenAI 已實施了專為 18 歲以下用戶設計的「ChatGPT for Teens」體驗。如果使用者聲稱其年齡在 13 至 17 歲之間，或者系統估計其年齡低於 18 歲，他們將自動進入此專門的體驗模式。這些保護措施是基準要求，而非選用設定。

教育工具

ChatGPT for Teens 包含與教育工作者和學習專家共同開發的功能，以支持批判性思考和學習習慣，例如：

• 測驗
• 學習視覺化
• 學習模式（旨在引導學生逐步解決問題）

安全與情境連續性

OpenAI 利用情境和記憶功能來一致地套用保障措施，並隨著時間推移識別令人擔憂的模式。這種連續性允許青少年參與長期學習專案而不必重新開始，並有助於系統在青少年需要額用資源時提供更有效的回應。

持續性的安全框架與原則

OpenAI 已將多項安全措施整合至其產品開發和 Model Spec 中，包括：

• 家長控制： 供家庭使用的工具，用於管理設定並在高度風險的情況下接收通知。
• 年齡預測： 用於估計使用者年齡以套用適當保護措施的系統。
• 青少年安全藍圖： 一個針對青少年安全的策略性框架。
• Model Spec 指南： 禁止 AI 參與浪漫關係、鼓勵情感依賴，或聲稱自己是人類或有感知的規則。

OpenAI 將 SB 1119 視為一個框架，可以在其執行過程中透過持續的研究與合作來改進，以跟上不斷演進的 AI 技術。