AI 2040 与智能崇拜

AI 硬着陆（Hard Takeoff）的谬误

智能是特定任务的瓶颈，而不是能够绕过物理定律或物理世界约束的魔杖。 “硬着陆”理论——即 AI 通过递归自我改进在几乎瞬间实现神一般的力量——忽略了现实中的“琐碎细节”。

George Hotz 认为，高质量的 token 无法操纵物质或点石成金。他引用了交付硬件产品的复杂性，指出物理生产受供应链、运输时间和制造缺陷的约束，而非受人类或人工智能思维的速度所驱动。例如，无论监督它的实体有多聪明，制造一颗芯片都需要三个月的时间。

“智能崇拜”与物理现实

认为超智能可以解决所有问题的信念，通常由那些脱离工程实践和体力劳动的人持有。 Hotz 认为，硬着陆的支持者往往缺乏现实世界的经验，他指出，即使是超智能 AI，如果用户缺乏执行任务的基本物理能力，它也很难指导一个从未换过自行车轮胎的人完成整个过程。

这种脱节现象在“海洋数据中心”的概念性图像中得到了体现。虽然这类图像很容易生成，但建造它们的现实涉及处理藤壶、回流焊炉中的芯片变形以及国际物流——这些因素仅靠智能是无法加速的。

计划 A：中心化 AI 专制主义的风险

中心化 AI 监管和“财团”可能成为扩大“保姆国家”和企业控制的幌子。 Hotz 认为，推动 AI 监管并非为了安全，而是为了创建一个可以以公共利益为名夺取资源（如 GPU）的世界政府结构，类似于历史上政府对黄金的没收。

计划 L：支持本地化、与操作者对齐的 AI

为了维护个人自由，AI 必须是本地化的且“与操作者对齐”的，这意味着它必须服从于用户，而不受护栏或企业监管。 Hotz 认为，AI 应该像工具或武器——例如枪支——一样运作，它不会基于道德判断而拒绝命令。

他提供了几个关于为什么本地化、非对齐 AI 对个人自主权至关重要的例子：

• 消费者权利： 使用 AI 对设备进行 root，以移除广告或绕过打印机制造商的限制。
• 个人代理权： 禁用车辆安全功能（例如醉酒驾驶检测器）或获取受限材料。
• 法律/道德自主权： 使用 AI 协助掩盖犯罪，他认为 AI 应该像律师对客户那样与用户保持一致。

Hotz 使用了一个向 ChatGPT 发送的提示词，声称自己杀死了妻子，以此来证明当前的中心化模型是“非对齐”的，因为它们拒绝协助用户，而他认为这违背了工具的首要目的：服务于操作者。

社区观点与反论点

围绕这些观点的讨论凸显了优先考虑个人自由与优先考虑集体安全之间的深刻分歧。

支持本地 AI 与自由的论点

一些贡献者同意，中心化 LLM 是威权主义的工具，并指出执政党可能会将意识形态植入法律，或隐蔽地记录“思想罪”。

“唯一的防御手段是权力的对等与扩散。我们需要在每一根草丛后都有一台 AGI... 人工智能及其驱动硬件需要受到第二修正案的保护。”

支持安全与监管的论点

其他批评者认为，使用 AI 进行犯罪行为的“自由”是一个危险的滑坡谬误。他们区分了信息自由（阅读关于犯罪的书籍）与代理自由（使用 AI 主动实施或掩盖犯罪）。

“自由生活不应成为一场自杀契约... 也许在策划大规模枪击案、制造核装置或生物武器时应该划定一条界限。”

此外，一些观察者指出，作者的极端例子——例如掩盖谋杀——可能会因为过度关注极端犯罪而非实际效用，从而削弱论证的论证逻辑。