大語言模型對社會與經濟的風險

價值集中化與經濟取代

大語言模型 (LLMs) 有可能將人類知識與創造力的經濟價值集中到少數模型所有者與生產者的手中。這種轉變威脅著要拆解年輕專業人士的傳統職業晉升階梯，並可能在知識型工作被自動化時，導致永久性經濟底層階級的產生。

批評者認為，目前的 AI 開發軌跡允許 LLM 公司「盜版」人類創作的內容——包括音樂、部落格與實驗數據——而不向原始創作者提供補償。這種動態創造了一個回饋迴圈，社會產生的價值被 AI 生產者吸收，接著他們再向公眾收取費用，以獲取這些相同知識的合成版本。

人們日益擔心 AI 生成內容的激增將導致人類創造力的下降以及對平庸的普遍接受，這通常被稱為「slop」。

有些人認為，將實踐與創作脫鉤——即使用提示詞 (prompt) 取代了學習工藝的繁瑣過程——會侵蝕藝術的內在價值。這可以從學術環境中整合 AI 音樂工具的現象中得到體現，有些人擔心這會優先考慮產出而非創作過程。

相反地，有些觀察者認為，人類創作的藝術將維持溢價。類比馬拉松，他們認為即使存在汽車，人們仍會為了自我表達與宣洩而持續跑步。

"對於實驗室的任何剽竊或複製，人類創作的藝術始常會存在需求。"

除了經濟因素外，LLMs 的整合進入日常生活也可能影響人類的連結與對真理的感知。

隨著溝通——從專業電子郵件到軟體工程權衡 (tradeoffs)——越來越多地由提示詞處理，存在著人類將停止透過創作與討論工作的共同經驗來進行社交與連結的風險。

控制模型權重 (model weights) 的人能夠主宰大眾所消耗的資訊、數據與觀點，這被一些人視為一種新型態的系統性資訊控制。由於許多使用者傾向於不加批判地接受 LLM 回應作為事實真理，這點被進一步惡化。

對於 AI 整合的長期結果，意見在「末日論者」觀點與將 AI 視為歷史自動化趨勢延續的人之間有所分歧。

這種觀點認為 AI 是一把「對我們所有人來說都太鋒利的劍」，可能導致社會動盪、社會經濟停滯，以及一個人類進步趨緩的世界，因為創作的激勵因素已消失。

其他人則認為 AI 僅僅是一個工具，類似於 19 世紀的工業織布機。這種觀點認為，雖然即時的干擾很顯著，但自動化最終會將昂貴的產出轉化為商品，從而提高整體的品質生活。

"儘管盧德分子 (Luddites) 擔心經濟崩潰，但經濟總是在成長。我們之所以有辦公室工作，是因為我們已經自動化了這麼多，以至於我們中只有一小部分人必須為了生存而工作在某些事情上。"

一些貢獻者建議，避免最壞結果（例如極端的財富極化與暴力革命）的唯一方法，是透過積極的政治干預來在工作性質改變的同時，更公平地重新分配財富與機會。