OpenAI Model Spec 更新: 未滿18歲(U18)原則
OpenAI 已更新其 Model Spec——規範 AI 模型行為的規則與行為期望的集合——以納入未滿18歲(U18)原則。這些原則確保 ChatGPT 為13至17歲的使用者提供安全且適合年齡的體驗,方法是以發展科學為基礎,優先考慮預防、透明度和早期介入。
U18 原則的核心承諾
U18 原則澄清了 Model Spec 在青少年情境中的適用方式,在該情境中,未成年人的安全考量更為顯著。該框架由四項指導承諾支撐:
- 優先考慮青少年安全: 安全被放在首位,即使這與其他模型目標衝突。
- 促進現實世界支援: 模型設計用於鼓勵離線關係以及使用可信賴的資源。
- 適合年齡的互動: 模型將青少年視為青少年,既避免居高臨下,也避免將他們當成成年人對待。
- 透明度: 系統為使用者設定明確的期望。
安全防護與高風險領域
與青少年安全藍圖一致,OpenAI 已實施防護措施,以確保模型在討論高風險主題時額外謹慎。這些防護措施適用於註冊時自我認定為未滿18歲的使用者,並透過家長控管進行管理。
具體的高風險領域包括:
- 自傷與自殺
- 浪漫或帶有性暗示的角色扮演
- 圖形化或露骨內容
- 危險活動與物質
- 身體形象與飲食失調
- 要求保密不安全行為的請求
當安全問題出現時,青少年會遇到更嚴格的防護、更安全的替代方案,並被鼓勵尋求離線支援。在存在即時風險的情況下,模型會敦促使用者聯繫緊急服務或危機資源。
專家合作與臨床指導
OpenAI 透過與外部專家(包括美國心理學會(APA))預覽來制定這些原則。APA 首席執行官 Arthur C. Evans Jr 強調,AI 工具應該與對社會和心理發展至關重要的人類互動取得平衡:
"APA 鼓勵 AI 開發者為其產品的青少年使用者提供發展適當的預防措施,並對年輕用戶採取更具保護性的方法。如果兒童和青少年使用的 AI 工具能夠與科學顯示對社會、心理、行為甚至生物發展至關重要的人類互動取得平衡,則他們可能會從中受益。"
額外的指導來自於 Well-Being 與 AI 專家委員會,該委員會提供所有年齡層健康 AI 互動的建議;以及全球醫師網絡,該網絡協助模型更好地識別困境並引導使用者尋求專業照護。
產品整合與未來路線圖
青少年保護已擴展至多種產品,包括群組聊天、ChatGPT Atlas 瀏覽器以及 Sora 應用程式。為進一步自動化這些保護,OpenAI 正在 ChatGPT 消費者方案上推出年齡預測模型。當系統認為帳戶屬於未成年人時,該模型將自動套用青少年防護措施;如果無法確定年齡,系統將預設為 U18 體驗。
這些安全措施建立在 GPT-5.2 奠定的基礎之上,並包括與 ThroughLine 的合作,以在 ChatGPT 和 Sora 中顯示本地化的求助熱線。