ChatGPT 的可信聯絡人：OpenAI 的新危機支援安全功能

概述

可信聯絡人是 ChatGPT 中的一項可選安全功能，允許成人指派一位可信任的人，若自動系統與受過訓練的審核員偵測到使用者可能以顯示嚴重安全關切的方式討論自我傷害，則會通知該人。

可信聯絡人運作方式

使用者可於 ChatGPT 設定中新增一位成年人士（全球 18 歲以上，或韓國 19 歲以上）作為其可信聯絡人。可信聯絡人會收到說明其角色的邀請，必須在一週內接受才能啟用此功能。若邀請被拒絕，使用者可選擇其他成年人。

當系統偵測到可能的嚴重自我傷害風險時，ChatGPT 會告知使用者可能會通知其可信聯絡人，並提供對話開場白。隨後，一小組受過特殊訓練的人員會審查此情況。若審核者判定對話可能顯示嚴重安全關切，ChatGPT 會透過電子郵件、簡訊或（若對方有 ChatGPT 帳號）應用內通知，向可信聯絡人發送簡短通知。

隱私與通知細節

此通知刻意保持簡短：僅說明自我傷害以可能令人關切的方式出現的概括原因，並鼓勵可信聯絡人主動關懷。為保護使用者隱私，通知不會包含聊天內容或文字記錄。通知亦提供連結，指向專家指導，協助處理敏感對話。

使用者控制與審核流程

使用者隨時可在設定中移除或編輯其可信聯絡人，且可信聯絡人亦可透過說明中心隨時自行移除。每則通知在發送前皆會經過受過訓練的人類審核，OpenAI 亦致力於在一小時內完成此審核。

與現有防護措施的整合

可信聯絡人補充了 ChatGPT 其他的安全措施：

• 鼓勵使用者在敏感時刻聯繫緊急服務、危機熱線、心理健康專業人士，或生活中可信任的人。
• 以關懷回應，根據與 170 多位心理健康專家的合作，偵測並回應潛在困擾的徵兆，降緩對話緊張，並引導使用者取得現實世界的支援。
• 透過建議長時間使用後休息，協助使用者掌控使用時間。
• 拒絕有害請求，包括自殺或自我傷害的指示，並轉向更安全的回應，同時提供在地的危機資源。

專家觀點

“心理科學一再證實，社會連結是強大的保護因子，尤其在情緒困擾期間。事先協助人們找出可信任的人，同時保留其選擇與自主權，能讓他們在最需要時更容易尋求現實世界的支援。” — Arthur Evans 博士，美國心理學會執行長

“人工智慧最大的承諾之一，就是能促進真實的人與人之間的連結與心理安全。我對 ChatGPT 的可信聯絡人功能感到鼓舞，因為它在脆弱時刻為人類賦能邁出一步。” — Munmun De Choudhury 博士，喬治亞理工學院互動計算 J. Z. Liang 教授，亦為福祉與 AI 專家委員會成員

未來方向

可信聯絡人是 OpenAI 更廣泛努力的一環，旨在打造能在困難時刻協助人們的 AI 系統。OpenAI 將持續與臨床醫師、研究人員與政策制定者合作，改進 AI 系統在使用者可能感到困擾時的回應方式，目標是確保 AI 能將使用者連結至最重要的現實世界照護、關係與資源。