AI 2040 與智慧崇拜

AI 硬啟動（Hard Takeoff）的謬誤

智慧是特定任務的瓶頸，而非能夠規避物理定律或物理世界限制的神奇魔杖。 「硬啟動」理論——即 AI 遞迴地自我改進以幾乎瞬間達到神一般的力量——忽略了現實中的「細微細節」。

George Hotz 主張，高品質的 token 無法操縱物質或點石成金。他引用了交付硬體產品的複雜性，指出物理生產受供應鏈、運輸時間和製造缺陷的限制，而非受限於人類或人工智慧的思考速度。例如，晶片代工廠生產一顆晶片需要三個月，無論監督它的實體有多麼聰明。

「智慧崇拜」與物理現實的對抗

認為超智慧可以解決所有問題的信念，通常是由那些脫離工程實務與體力勞動的人所持有的。 Hotz 建議，硬啟動的支持者往往缺乏現實世界的經驗，他指出，即使是超智慧 AI，如果使用者缺乏執行任務的基本物理能力，它也難以指導一個從未換過自行車輪胎的人完成該過程。

這種脫節現象在「海洋數據中心」的概念性意象中得到了體現。雖然這類圖像很容易生成，但建造它們的現實涉及處理藤壺、回流焊爐中的晶片變形，以及國際運輸的物流問題——這些因素單憑智慧是無法加速的。

計畫 A：中央集權式 AI 專制主義的風險

中央集權式的 AI 監管與「財團」可能成為擴張保姆國家（nanny state）與企業控制的幌子。 Hotz 認為，推動 AI 監管並非為了安全，而是為了建立一個可以假借公共利益之名，奪取資源（如 GPU）的世界政府結構，類似於歷史上政府沒收黃金的行為。

計畫 L：支持在地化、與操作者對齊的 AI

為了維護個人自由，AI 必須是本地化的且「與操作者對齊」（operator-aligned），這意味著它必須服從使用者，且不設防護欄（guardrails）或企業監督。 Hotz 主張，AI 應該像工具或武器——例如槍枝——一樣運作，不會因為道德判斷而拒絕指令。

他提供了幾個關於為何在地化、非對齊 AI 對於個人自主權至關重要的例子：

• 消費者權利： 使用 AI 來 root 一個裝置並移除廣告，或繞過印表機製造商的限制。
• 個人代理權： 停用車輛安全功能（例如醉酒駕駛偵測器）或獲取受限材料。
• 法律/道德自主權： 使用 AI 協助掩蓋犯罪，他主張 AI 應該像律師對其當事人一樣，與使用者高度對齊。

Hotz 使用了一個向 ChatGPT 發送的提示詞（prompt），聲稱自己殺了妻子，以此來證明目前的中央集權模型是「非對齊」的，因為它們拒絕協助使用者，而他認為這是一種工具主要目的的失敗：服務於操作者。

社群觀點與反論點

圍繞這些觀點的討論突顯了重視個人自由與重視集體安全之間的深刻分歧。

支持在地化 AI 與自由的論點

某些貢獻者同意中央集權式的 LLM 是威權主義的工具，並指出執政黨可能會將意識形態植入法規中，或隱密地記錄「思想罪」。

"The only defense is parity and diffusion of power. We need an AGI behind every blade of grass... Artificial intelligence, and the hardware powering it, needs to be protected under the 2nd Amendment."

支持安全與監管的論點

其他批評者認為，使用 AI 進行犯罪行為的「自由」是一個危險的滑坡效應。他們區分了資訊自由（閱讀關於犯罪的書籍）與代理自由（使用 AI 主動進行或掩蓋犯罪）。

"Living free shouldn't be a suicide pact... maybe there should be a line [at] planning a mass shooting or producing a nuclear device or bioweapon."

此外，一些觀察者指出，作者的例子——例如掩蓋謀殺案——可能會因為過於關注極端犯罪而非實際效用，而削弱了論點的邏輯流暢性。