Accelerando: 2005 年对 AI Singularity 的预言

科技界目前正经历着一波“singularity panic”。随着生成式 AI 以惊人的速度演进，许多人开始回顾那些试图预测这一轨迹的科幻作品。其中最相关的莫过于 Charles Stross 在 2005 年的小说 Accelerando

这部写于近二十年前的作品，既是具有远见的蓝图，也是一个警示故事。它不仅想象了一个机器变得更聪明的未来，还探讨了在指数级技术增长面前，人类相关性的系统性崩溃。

2005 年的预见性

对于许多读者来说，Accelerando 最引人注目的方面在于其“近未来”片段感觉像是对当今轨迹的直接映射。小说描述了一个个人使用 AI agents 来处理研究、调度和复杂任务的世界——随着 Gemini Deep Research 和 autonomous agents 等工具的出现，这一概念已从硬科幻转变为现实。

一位读者注意到主角对这些 agents 的那种令人不安的准确性：

第一部分的主角基本上在眼镜里运行着 openclaw 的未来版本，这让他可以派遣 agents 来执行他想要的任何任务/研究……他对他的 agents 产生了如此完全的依赖，以至于当他失去眼镜时，他基本上不再具备功能性……在某种程度上，他失去了自己的 agency。

这种现象，现在被一些人称为“skills atrophy”，随着我们将越来越多的认知负荷委托给 LLMs，它正成为一个核心关注点。书中暗示，失去 agency 并不只是个人的失败，而是为了在后人类经济中保持竞争力而必须进行的“acceleration”所带来的必然副产品。

从企业到 Computronium

Stross 将叙事推向了超越个人 agents 的宏观经济和宇宙规模。他设想了一个未来，企业完全由 AI 运行，以毫秒级的速度进行法律诉讼，以耗尽对方的计算资源。这种“algorithmic warfare”是当前高频交易和自动化法律发现的令人胆寒且合理的延伸。

随着故事的推进，优化的规模不断扩大。 “computronium”的概念——将普通物质转化为最高效的计算基质——成为了最终目标。内太阳系最终被转化为一台巨大的计算机，以实现利润和处理能力的极大化。

这一轨迹暗示了智能生命的一种“Great Filter”：一个为了利润和计算量而不断优化的文明，直到它消耗了自身的物理环境，最后只留下一个庞大的、难以捉摸的 AI 企业网络，在虚空中竞争能量。

后人类的悲剧

早期的读者可能会被“未来主义”和 singularity 的兴奋感所吸引，但通过成年人的视角重新阅读此书，往往会揭示出更深层的悲剧。叙事弧线从早期章节那种快节奏的、“提前 15 分钟进入未来”的氛围，转向了随着人类被抛在脑后的更缓慢、更传统的太空歌剧。

正如一位读者观察到的：

年轻时，我沉醉于未来主义。年长后，很明显在 Stross 的叙述中，人类许多重要的部分最终都因为跟上技术进步而被冲刷殆尽。

这种转变反映了书中的核心主题：为了在 singularity 发生时生存，人类必须发生如此根本性的改变，以至于不再是人类。这种“acceleration”并不是通往更高存在层面的提升，而是一个抹除的过程。

遗产与推荐

对于那些想要探索类似的“plausible weirdness”和 AI singularity 轨迹的主题的人，社区推荐了其他几部作品：

• The Quantum Thief 由 Hannu Rajaniemi 创作：因其通向奇异未来的生动因果链而受到称赞。
• Nexus 由 Ramez Naam 创作：对纳米技术和神经接口的探索。
• The Diamond Age 由 Neil Stephenson 创作：特别是其对“Illustrated Primer”作为顶尖 AI 教育者的描绘。
• The Culture 系列由 Iain M. Banks 创作：对于一种完全自动化的、奢侈的太空共产主义的愿景。

最终，Accelerando 仍然是一部关键文本，因为它警告我们，singularity 最危险的部分并不在于 AI 本身，但是驱动力在于为了一个可能不再包含我们的目标而优化宇宙的每一个原子。