OpenAI 青少年 AI 安全提案與全球領導力倡議
OpenAI 青少年 AI 安全提案與全球領導力倡議
OpenAI 正呼籲成立一個國際青少年安全研究所，並採用全球框架來保護使用 AI 的未成年人。此倡議旨在將適合年齡的防護措施標準化，並確保 AI 作為學習與機會的工具，而非人類發展的替代品。
成立國際青少年安全研究所的提案
OpenAI 提議成立一個專門的國際青少年安全研究所，以便在個別峰會之外提供持續的全球協調。該研究所將作為政府、研究人員、公民社會和產業的中心，用於分享證據、制定指南並隨著時間推移提高安全標準。
OpenAI 為該研究所提出了兩條主要的實施路徑：
- 一個新的國際組織：一個致力於青少年 AI 安全的獨立實體。
- 擴大職能範圍：授予現有或新成立的國家級 AI 研究所全球職能，以便與國際夥伴分享研究與指南。
這項提案建立在現有努力的基礎之上，包括 Common Sense Media 的 Youth AI Safety Institute（由 OpenAI Foundation 支持）、與美國教師聯合會（American Federation of Teachers）的合作，以及研究驅動的部署，例如與 Stanford 及愛沙尼亞研究人員合作在愛沙尼亞學校進行的國家級 ChatGPT 部署。
全球青少年 AI 安全標準九點框架
OpenAI 概述了九項核心原則，以指導強大的 AI 青少年安全框架和 G7 協議的制定：
- 符合年齡的保護：提供者必須使用保護隱私的年齡估計技術來識別未成年人，並在用戶年齡不明時預設採取保護性防護措施。
- 主動風險評估：公司應進行年度青少年安全風險評估，以便在潛在傷害發生前予以解決，同時也衡量學習與創造力等正面成果。
- 家長控制：監護人應擁有易於使用的工具來管理記憶、數據使用和時間限制，並向家庭積極推廣這些工具。
- 透明度：公司必須發布清晰的安全政策，解釋為年輕用戶提供的防護措施以及這些保護措施如何演進。
- 高風險協定：必須針對嚴重的安全狀況建立明確的協定，包括自殘、剝削、誘拐和性剝削內容，包括轉介資源和家長通知。
- 支持發展：AI 的設計應旨在支持學習和現實世界的關係，而非取代它們，在需要人類判斷和專業支持的地方保持界限。
- 隱私保護：必須保護未成年人的個人資訊，特別是禁止銷售個人數據和侵犯隱私的定向廣告。
- 推廣素養：框架應推廣 AI 素養和批判性思考能力，使年輕人能夠負責任且自信地使用 AI。
- 問責與審計：需要基於通用、可互操作標準和立法監督的獨立審計，以確保保護措施得到有效執行。
ChatGPT 中的實施與全球教育
OpenAI 透過特定的產品設計和行為準則將這些原則整合到 ChatGPT 中：
- 未成年人防護措施：針對 18 歲以下的用戶，加強對身體形象、危險活動、露骨內容、自殘和隱瞞行為的防護邊界。
- Model Spec：針對 18 歲以下用戶的專屬原則，優先考慮符合年齡的體驗並鼓勵尋求線下支持。
- 年齡預測：先進的年齡預測系統，在懷疑用戶為未成年人時應用更強的保護措施。
除了產品安全，OpenAI 的「為國家提供教育」（Education for Countries）倡議正與愛沙尼亞、希臘和新加坡的政府合作，提供在地化的學習工具、教師培訓和研究驅動的部署，以確保 AI 的採用符合實際的課堂需求。
G7 峰會與 OpenAI 論壇
OpenAI 將參加在法國埃維昂（Évian）舉行的 G7 領導人峰會，討論產業標準和提議的青少年安全研究所。此外，OpenAI 將在巴黎舉辦 OpenAI 論壇，屆時將與法國 AI 與數位事務大使 Clara Chappaz、OpenAI 首席全球事務官 Chris Lehane 以及來自 iRaise/Everyone.AI 的專家進行討論。