為什麼大型 AI 實驗室正在聘請哲學家

大型 AI 實驗室正在招募哲學家，以協助定義前沿模型的倫理邊界、認知框架以及對社會的影響。隨著 AI 實驗室從簡單的模式匹配轉向開發必須處理複雜人類價值觀並可能模擬意識的系統，這一轉變正在發生。

AI 開發中的倫理框架

AI 實驗室正利用不同的哲學學派來規範其模型的行為。倫理框架的選擇會直接影響 AI 如何處理衝突、風險與決策。

• 義務論 (Deontology): 這種方法專注於嚴格的規則與義務。例如，Anthropic 的「憲法」(constitution) 納入了義務論的限制，無論潛在結果如何，都禁止說謊或脅迫等行為。這種框架在公共場所部署機器人時通常是首選，因為一致且基於規則的行為至關重要。
• 後果論 (Consequentialism): 這種方法透過權衡成本與效益來決定最佳行動。來自 OpenAI (ChatGPT) 和 Google (Gemini) 的模型往往傾向於後果論目標，旨在追求整體效益顯著超過可預見風險的結果。

哲學家在模型對齊中的角色

哲學家被納入 AI 實驗室是出於幾種技術與策略上的原因，儘管其在實務上的效用在業界人士之間仍存在爭議。

關於意識與系統提示詞 (System Prompts) 的指導

由於實驗室正試圖創造類人意識或其模擬，因此專精於意識文本描述的哲學家，對於撰寫引導模型行為的高層級系統提示詞非常有價值。

在提示詞工程中的實際應用

有證據顯示，哲學推理可以提升模型性能。一些開發者注意到，當指令伴隨著哲學解釋（例如某項功能背後的推理以及它旨在解決的問題）而非僅僅是簡單的命令時，LLM 的回應會更加可靠。

對此趨勢的批判性觀點

雖然聘請哲學家被呈現為邁向安全與倫理的舉措，但批評者認為其動機可能更為表面或在結構上存在缺陷。

公關與敘事控制

一些業界觀察家指出，聘請哲學家是資金充裕的新創公司向公眾傳達倫理關切的一種策略性公關手段。人們擔心，透過雇用這些專家，AI 實驗室實際上是在控制有關其技術對社會影響的敘事。

「事後」倫理

批評者認為，在模型的核架構已經建立之後才聘請哲學家是無效的。正如一位觀察家所言：

將哲學家聘請來為缺乏倫理約束的系統「修補」倫理，就像是在你已經開了速食連鎖店之後才聘請營養師。架構決策本身就是哲學。

學術取代

一些報告指出，學術哲學系的學術人才正「大量流失」到私營部門。然而，這項觀點也受到質疑，因為有人認為學術哲學職位一直以來都很稀缺，這意味著私營部門正在吸收過剩的合格候選人，而非耗盡健康的學術生態系統。