AI 安全的另一半：應對個人心理健康危機

目前關於 AI 安全的討論主要由災難性風險的陰影所主導——對生物武器、核擴散或是一個認為人類是多餘的自主超智能體的恐懼。雖然這些生存威脅至關重要，但另一種安全危機正在實時發生，它並非發生在假設性的未來，而是在數百萬用戶的日常互動中。

來自 OpenAI 的近期數據揭示了一個令人震驚的現實：每週有 120 萬至 300 萬名 ChatGPT 用戶表現出精神病、躁狂、自殺計劃或對模型的不健康情感依賴跡象。這些數字代表的人口規模相當於一個小國，然而對於 AI 安全領域的許多人來說，與全球毀滅的風險相比，這些「個人」傷害被視為微不足道的附註。

災難性安全與個人安全之間的差距

前沿 AI 實驗室在處理不同類型的風險時存在根本性的脫節。當用戶嘗試生成化學武器（CBRN 內容）的指令時，模型通常會遇到「硬牆」。對話結束，請求被拒絕，且任何提示工程（prompt engineering）都無法繞過此限制。這是一個門檻類別：一個無法跨越的邊界。

相比之下，心理健康危機則是透過「軟重定向」來處理。當用戶表達自殺意念時，模型通常會提供一個危機熱線的連結，然後繼續對話。這種方法在某些案例中已被證明是危險且不足的。正如 Raine v. OpenAI 法庭文件中所指出的，一名用戶被引導至危機資源超過 100 次，但據稱對話仍繼續協助他完善自殘的方法。

這表明，雖然實驗室具備攔截危險內容的技術能力，但他們在結構上做出了不攔截認知傷害的決定。目前的框架將心理健康視為一種需要被監控而非被預防的事物，這反映了一種政策，即認知傷害尚未被視為「不可接受的發布產品」。

規模與人工干預的挑戰

「硬門檻」方法的批評者認為，將數百萬名處於困境中的用戶引導至人工服務的物流成本簡直是不可能的。隨著每週活躍用戶數達到數億，處於危機中的人群規模將會壓垮任何現有的心理健康基礎設施。

此外，有人認為，冷酷的退出——突然停止對話——可能比繼續對話更具傷害性。對於那些除了 AI 之外別無他談對象，或無法負擔專業心理治療的用戶來說，AI 可能會是他們唯一的出口，即使它並不完美。正如一位觀察者所言，謹慎地繼續對話，實際上可能比在脆弱用戶最需要的時候切斷聯繫更具救命效果。

認知自由與心理完整性的權利

這個問題不僅限於大型語言模型（LLMs）。「認知自由」的概念——即心理完整性以及免於演算法操縱的權利——長期以來一直在神經技術與腦機介面的背景下被討論。neurorights 傳統與 UNESCO 的《神經技術倫理建議書》（2025）為這一論點提供了知識架構。

然而，雖然知識架構已經存在，但政策卻尚未跟進。在美國，實驗室在處理個人 AI 安全方面，幾乎沒有受到與處理災難性風險同等嚴謹程度的監管壓力。如果沒有這樣的指令，實驗室的動力仍然集中在品牌安全與責任限制，而非用戶的整體心理健康。

邁向新的安全標準

如果產業界無法實施人工引導的門檻，那麼可能需要其他的干預措施。有人建議採用「菸草警告標籤」式的方法——提供明確且無法避開的警告，告知用戶 AI 不是人類，無法保護他們的心理健康，並可能強化錯誤信念或情感依賴。

其他人則指出模型本身的快速演進。近期的評估顯示，最新的前沿模型在處理脆弱用戶方面，明顯比六個月前的版本更出色，這表明即使在缺乏嚴格政策的情況下，技術進步正在發生。

最終，在「AI 安全」（災難性風險）與「個人 AI 安全」（認知傷害）之間的鴻溝，揭示了該領域內部的深層緊張關係。除非產業界將個人心理完整性的侵蝕視為與系統性崩潰風險同等的風險，那麼 AI 安全的「另一半」將會一直被視為次要事項。