OpenAI 心理健康安全更新與訴訟狀態

受信任聯絡人功能與家長控制

OpenAI 正在推出受信任聯絡人功能,允許成年使用者指定一位人士,在使用者可能需要額外支援時接收通知。此功能正與「福祉與 AI 委員會」以及「全球醫師網路」合作開發。

此舉緊接 2025 年 9 月推出的家長控制功能,OpenAI 表示該功能已獲得家庭的積極參與。家長目前可透過這些控制功能收到有關其青少年使用 ChatGPT 的安全通知。

加強情緒困擾偵測

OpenAI 持續提升其模型偵測與回應情緒困擾徵兆的能力。為此,公司正實施新的評估方法,模擬長時間的心理健康相關對話。這些模擬旨在協助公司識別潛在風險,並更有效地改善 ChatGPT 在敏感時刻的回應方式。

心理健康相關訴訟的狀態

在另一項發展中,法院已將多起涉及 ChatGPT 的心理健康相關案件在加州合併為單一訴訟程序。協調法官將於未來幾天指派。OpenAI 指出,原告律師已向法院通報他們打算在此合併過程中再提起其他新案件的意圖。

OpenAI 已列出四項處理此類法律程序的指導原則:

  • 基於事實的方式: 從事實出發,並投入真誠的努力去理解它們。
  • 尊重的倡導: 在陳述案件時,仍須意識到涉及真實人物的情況之複雜性與細微差異。
  • 尊重隱私: 認識到這些案件涉及私人資訊,需要在公開法庭環境中保持敏感度。
  • 使命導向: 專注於提升技術,且不受任何訴訟的影響。

OpenAI 表示,僅在與案件及具體指控相關時,才會透過法院程序尋求資訊。公司強調,這些案件複雜且具細微差異,且公司持續與心理健康臨床醫師與專家合作,改進 ChatGPT 的訓練,以辨識困擾、降級敏感對話,並引導使用者尋求現實世界的支援.

Sources