Anthropic共同創辦人Chris Olah談教宗良十四世《Magnifica humanitas》通諭

Anthropic共同創辦人Chris Olah主張，前沿人工智慧的發展需要宗教與公民社會領袖提供外部的道德與哲學監督，以抵消人工智慧實驗室內固有的商業、地緣政治與個人動機。他在教宗良十四世通諭《Magnifica humanitas：關於在人工智慧時代保護人類個人》發表會上表示，人工智慧所引發的問題已超越電腦科學範疇，延伸至人文学科、宗教與哲學領域。

人工智慧發展中的外部批判角色

Chris Olah指出，每一家前沿人工智慧實驗室，包括Anthropic在內，都受到商業可行性、研究競爭與地緣政治壓力等動機與限制的影響，這些因素可能與「做對的事」產生衝突。他主張，要讓人工智慧技術造福人類，必須有「誠懇、深思熟慮的批判者」置身於這些動機結構之外，能夠堅持安全原則，並在實驗室失敗時提供誠實的反饋。

人工智慧模型作為「生長系統」的本質

Olah將人工智慧模型與傳統工程區分開來。雖然飛機或橋樑是基於對物理與元件的完整理解而設計，但人工智慧模型是「在類似大腦的結構上『生長』」，並繼承了龐大的人類思想與言語遺產。

由於這些模型源自人類的言語與思想，Olah將其描述為「讓虛構角色活起來」。他總結道，雖然人工智慧的機械結構是數學與科學的產物，但決定這些系統的性質以及它們應如何與世界互動，則是社會、宗教與哲學需要回答的問題。

道德判斷的三個關鍵領域

Olah指出，他認為教會與類似道德機構的聲音在以下三個領域尤為重要：

1. 對全球貧窮者的責任

人工智慧極有可能在大規模上取代人類勞動。Olah指出，目前人工智慧的發展集中於少數富裕國家，且目前尚無機制確保人工智慧的收益能全球共享，他將此視為歷史級別的道德責任。

2. 人類的繁榮

隨著人工智慧的普及，需要一種「道德想像力」來定義人類、家庭與世界繁榮的意義。Olah認為，人工智慧實驗室無法回答這些問題，但那些已千年來探討此類議題的宗教與哲學傳統，能提供必要的指引。

3. 人工智慧模型的本質

從技術角度，Olah透露，對人工智慧模型內部結構的研究已發現「神秘，甚至令人不安」的結果。他特別提到以下發現：

與人類神經科學結果相符的結構。
內省的證據。
功能上類似人類情緒（如喜悅、滿足、恐懼、悲傷與不安）的內部狀態。

Olah表示，這些發現值得持續進行道德判斷，以釐清這些系統的實際本質。