性、AI 與末日：理性主義次文化如何塑造 AI 安全、政治與爭議

頭條警告及其直接後果

Jacob Coxon 於 2026 年 9 月 8 日離開 Anthropic，並公開表示，開發 AI 的人們「真誠地相信它可能在十年內讓我們全人類滅亡」。他的辭職信迅速病毒式傳播（一天內觀看次數超過 1 億次），並被政客、Elon Musk 和主流媒體放大。數小時內，Anthropic 的對齊（alignment）負責人 Evan Hubinger 證實了該實驗室內部估計的「十年內人類滅亡機率超過 10%」。

驅動警告的理性主義次文化

最激進的 AI 末日論倡導者屬於一個有 25 年歷史的網際網路次文化，自稱理性主義（rationalist）社群。該運動起源於 2000 年代初的論壇，如 LessWrong，並圍繞一組核心觀念發展起來：

英雄式責任 – 理解風險的個人必須採取行動以防止災難。
The Sequences – 一套旨在克服認知偏誤的文章課程，承諾帶來更清晰的思維。
儀式與象徵 – 如 Secular Solstice（一年一度的「末日」儀式）以及像 Harry Potter and the Methods of Rationality (HPMOR) 這樣的同人小說，將社群的世界觀融入其中。

這些文化技術將成員緊密結合，提供歸屬感，並建立了一個資歷階層，其中「理性主義者」的身份象徵著優越的判斷力。

關鍵人物及其影響力

人物	角色	顯著貢獻
Eliezer Yudkowsky	奇點研究所（現為 MIRI）創辦人及 HPMOR 作者	普及了 AI 滅絕風險；創造了「英雄式責任」敘事。
Scott Alexander	部落格作者（Slate Star Codex）及理性主義思想解讀者	將理性主義思維帶向更廣泛的科技受眾；將 AI 風險與主流矽谷聯繫起來。
Curtis Yarvin (Mencius Moldbug)	新反動派（Neoreactionary）作家	引入了反民主的「拼布」（patchwork）概念，後來與部分理性主義者產生共鳴。
Raymond Arnold	Secular Solstice 組織者	建立了社群的主要儀式，將 AI 末日框架化為類似宗教的事件。
Peter Thiel	億萬富翁投資者、慈善家	資助 MIRI、Yarvin 的 Tlon 以及反民主項目；發表了針對 AI 監管者的洩密「反基督」講座。
Jaan Tallinn	慈善家	資助 MIRI、人類未來研究所（Future of Humanity Institute）及 EA 倡議，將長期主義資金與 AI 風險聯繫起來。
Aella	從性工作者轉型為研究者、AI 末日內容製作人	與 Grimes 共同運營「Plz Don’t Kill Us」駐留項目；闡述了性網絡如何與 AI 安全圈交織。

從同人小說到有組織的行動

HPMOR（122 章，66.1 萬字）成為許多未來 AI 研究者的入門途徑。其高潮部分「期末考試」（Final Exam）挑戰動員了數千名讀者在截止日期前解決一個謎題，展示了社群眾包複雜任務的能力。該同人小說作者的註釋還推廣了應用理性中心（Center for Applied Rationality, CFAR），該機構將 The Sequences 轉化為線下工作坊。

制度性溢出：AI 實驗室、慈善與政策

MIRI 和 人類未來研究所（Bostrom）將理性主義的擔憂轉化為學術研究，吸引了數十億的捐贈資金（例如 Open Philanthropy、Thiel 基金會）。
有效利他主義（Effective Altruism, EA） 透過長期主義（long-termism）與理性主義融合：未來人口的福祉大於當前人口的福祉，使 AI 滅絕成為資金投入的首要原因。
CFAR 向科技公司（Facebook、Thiel 支持的初創企業）和天才青少年出售「除錯」（debugging）工作坊，模糊了個人發展與企業招聘之間的界限。
Leverage Research 和 Black Lotus 試圖「理解心智」，但被指控進行心理虐待和類似邪教的控制。
Zizi LaSota 及其追隨者（「Zizians」）將社群教義轉化為暴力行動，導致多起謀殺案以及 2025 年在佛蒙特州的一起高調槍擊事件。

政治滲透

理性主義-EA 管道將資金和理念輸入了美國政治：

Sam Bankman-Fried (FTX) 是 EA 的產物，他在 2025 年定罪前，將非法利潤輸送至 Anthropic 和 AI 風險補貼。
Peter Thiel 資助了反民主運動、Gawker 訴訟，以及將 AI 監管框架化為宗教式壓迫的「反基督」講座。
JD Vance（美國參議員）從 Thiel 的風險投資公司獲得 1500 萬美元，並在政策演說中引用 Yarvin 的反官僚主義理念。
Michael Kratsios（前 OSTP 主任）和 David Sacks（科技委員會共同主席）是與 Thiel 有關的任命人員，展示了該網絡對聯邦科學政策的影響力。

監督中的利益衝突

非營利組織 METR 負責評估前沿 AI 系統，其在 2026 年的風險報告中披露，員工與實驗室員工有密切的個人關係，引發了對其獨立性的質疑。同一小群體（前同事、室友、配偶）往往同時擔任評估者和被評估對象，削弱了外部問責制。

社群批評與自我反思

CFAR 於 2019 年公開為未能妥善處理針對 Brent Dill 的虐待指控而道歉，承認該組織儘管在判斷力方面具有專業知識，但未能保護受害者。
前成員定期發布「退出帖」（exit threads），描述心理傷害、強制性關係，以及離開一個專業、浪漫和住房關係交織在一起的網絡的困難。
原文的評論者強調了對群體思維、連坐制（guilt-by-association）的擔憂，並認為應根據 AI 風險本身的價值來評估，而非其倡導者的個人怪癖。

為什麼 Coxon 的辭職很重要

Coxon 的離開闡明了兩個事實：

警告的可信度 – 即使是 Anthropic 自己的對齊負責人證實了該實驗室的高存在風險估計，表明威脅在領先的 AI 公司內部被認真對待。
協調的感知 – 批評者（包括 Elon Musk）將病毒式傳播框架化為協調的心理戰（psy-op），指出社群密集的資金和通信網絡是可能存在的策劃證據。

這兩種解釋都是合理的，因為理性主義場景是一個高度糾纏的社交圖譜，同一群個體相互資助、諮詢並推廣彼此的項目。

更廣泛的教訓

理性主義社群展示了如何一個利基次文化可以演變為一個強大的認識論精英，塑造技術、慈善和公共政策。其優勢——嚴謹的推理、眾包問題解決和長期主義動機——被以下因素所抵消：

資歷主義，將「理性主義者」等同於「優越的判斷力」。
類似邪教的動態（儀式、英雄式責任、心理除錯），可能壓制異議並使虐待成為可能。
影響力的集中，在監督機構中造成利益衝突。

理解這個網絡對於任何評估 AI 安全主張、設計監管框架或評估主導 AI 末日敘事之聲音合法性的人來說都是至關重要的。

上述分析完全基於公開可得的報導和作者自己的引用。錯誤或遺漏可報告至作者的電子郵件地址。