OpenAI 青少年安全與學習框架

OpenAI 正在實施一套適合年齡的保護措施與學習導向工具，以確保青少年能安全地使用 AI。此方法基於以下前提：AI 是當前世代的定義性技術，若限制其使用直至成年，將使青少年未能為未來做好準備。

學習導向工具與學習模式

OpenAI 正在將青少年的 AI 互動重點從提供即時答案轉向培養主動參與與批判性思維。

學習模式

學習模式是在與教學專家、學習科學家和老師合作下開發的。它不僅僅提供答案，而是使用結構化解釋、引導問題和反思機會，幫助學生逐步解決問題。早期評估顯示，這些工具已帶來學生表現的有希望提升。

教育支援功能

為了促進學術使用，OpenAI 已引入以下幾項具體增強：

• 家長啟用：擁有連結青少年帳戶的家長現在可以透過家長控制直接啟用學習模式，使其成為青少年發起的所有新聊天的預設值。
• 入門提示：新增的教育導向提示可協助青少年拆解複雜主題、製作閃卡、產生練習題，並將筆記轉為學習指南。
• 互動體驗：ChatGPT 現在提供超過 300 個數學與科學主題的互動學習體驗，目前每週有 1800 萬用戶使用。
• 語言學習：新增的發音體驗利用音訊協助使用者學習超過 61 種語言的發音。

針對青少年使用者的內建防護

當 ChatGPT 判斷使用者年齡未滿 18 歲時，會自動套用更適合年齡的體驗，並加強防護欄以降低接觸有害內容的風險。

內容防護

已實施更強的防護措施，以防止接觸以下內容：

• 圖形暴力
• 自我傷害
• 有風險的病毒式挑戰
• 不健康的身體形象內容
• 危險、浪漫或帶有性暗示的角色扮演

行為健康與習慣養成

為鼓勵平衡的科技使用習慣，ChatGPT 現在會對長時間使用平台的青少年提供更頻繁的休息提醒。

家長控制與通知

OpenAI 已開發工具，協助家長管理青少年的 AI 使用：

• 控制設定：家長可以設定安靜時段、關閉語音模式，並管理圖像生成的存取權。
• 高風險通知：在高風險情況下（例如顯示潛在自我傷害的跡象），家長會收到通知。
• 政策違規警示：通知功能將擴大至包括連結青少年帳戶因違反有關暴力威脅或線上暴力行為的使用政策而被停用的情況。

協作安全生態系統

OpenAI 與外部專家和組織合作，以完善其安全政策並評估其防護措施的效果。

專家合作

OpenAI 與兒童安全專家、心理健康專業人士、研究人員、政府和教育工作者合作。具體來說，該公司諮詢了 Moonshot（一個預防線上暴力的領導者），以確保干預措施深思熟慮且有效。

產業會員資格

OpenAI 已加入 家庭線上安全研究所（FOSI），以推動全產業範圍的努力，加強適合年齡的保護措施與家長工具。

未來路線圖

OpenAI 計畫繼續加強適合年齡的保護措施，並改進針對嚴重危害的防護。未來的工作將著重於推進健康 AI 使用的研究，並擴展有助於青少年主動且自信學習的體驗。