永遠の補完：AIと進歩の未来

このエッセイは、先端的な知性（優れた洞察を生み出す能力）と制度的な知性（官僚制、資本、労働を通じてアイデアを実行する能力）の関係を探求する。中心的な主張は、進歩は天才だけによって駆動されるのではなく、そのアイデアを実現するために必要な物理的および組織的支援システムとの連携によって促進されることである。

進歩のコスト上昇

科学的・技術的な進歩はますます大きな支援システムを必要とするようになり、個々の研究単位の生産性が低下している。著者たちは、モアの法則を維持するには1970年代初頭と比べて18倍以上多くの研究者が必要だと指摘している。

このコスト上昇を示す主要な指標は以下の通りである：

研究生産性：1930年代から経済全体の有効な研究努力は23倍に増加したが、測定された研究生産性は41分の1に低下した。
労働力の変化：技術者の労働力は科学者の労働力の2倍の速度で成長している。
インフラコスト：科学における専門機器の使用は40年間で2倍に増加し、現代のチップファブは30年前と比べて5倍のコストがかかっている。

知性と制度的補完

経済学的に言えば、先端的な知性と実行能力は「補完的」であり、一方が増加すると他方の価値も高まる。

物理的補完：粒子加速器、エネルギー源、技術的設計を構築するために必要な機械など。
制度的知性：「実行の祝賛されない知性」として、法律、官僚制度、資金調達メカニズム、サプライチェーンを含む。

天才がモニュメントを設計するが、制度的知性が石を積み上げる。著者たちは、10億人のアインシュタインからなる文明であっても、先端的な革新が可能になるインフラを維持するためには、その大多数が会計や資源抽出を担当しなければならないと主張している。

AIの実行と発想における役割

AIは現在、実行の希少性を低下させ、コード作成、文献検索、プロトタイピングを自動化している。これにより、ボトルネックは実行から「味覚」——どの問いを問う価値があり、どの方向を追求する価値があるかを判断する能力——へと移行している。

しかし、AIが自ら優れた洞察を生み出すようになると（数学分野で見られるように）、新たなボトルネックが生じる可能性がある。AIが有効な仮説や概念の数を爆発的に増やすことで、支援インフラが新しいアイデアの量を吸収できず、世界はかつてないほど「実行不足」になる可能性がある。

文明の二つの可能性

著者たちは、超知能が物理世界とどのように相互作用するかについて、二つの方向性を提案している。

1. 深さの文明

このシナリオでは、知性が原理からの推論や既存データからの新たな知見の抽出を通じて知識を進展させ、新しい物理的証拠の必要性を最小限に抑える。

メカニズム：超知能は、超現実的なシミュレーションを用いて不確実性を解消し、物理実験は最も重要なものだけが行われるようにする。
結果：進歩は物理的拡張ではなく、より深い思考によって駆動される。文明の物理的足跡は小さく保たれながら、知恵は増大する。

2. 幅の文明

このシナリオでは、新しい証拠の需要が知性の効率性を上回る。進歩には、現実世界におけるますます複雑で大規模な実験が必要になる。

メカニズム：知性は主に「制度的知性」——巨大な技術的・官僚的機械の調整（例：ダイソン球の建設）——に向けられる。
結果：物理的拡張が知識の主なエンジンとなる。このプロセスは宇宙的な速度制限（光速）と物理的構築に要する時間の制約に従うため、進歩のペースは実際には時間とともに遅くなる可能性がある。

人間の好奇心の役割

AIが洞察力と調整能力の両面で人間を上回る可能性があるにもかかわらず、著者たちは人間の好奇心が以下の三つの理由から不可欠であると主張している：

啓蒙への義務：世界を理解したいという欲求は、優れた知性が存在しても変わらず根強く続く人間の根本的な動機である。
比較優位性：人間は制度的知性（ルーティンな調整）よりも先端的な知性（創造性）において相対的に優れている可能性があり、創造プロセスにおける専門化が進む。
創造的多様性：人間の独自性は、機械が人間の思考の大部分を模倣できても、価値をもたらす多様な視点を提供する。