知能は人工的ではなく集合的である：マイケル I. ジョーダン教授の AI と経済に関する視点
知能は人工的ではなく集合的である：マイケル I. ジョーダン教授の AI と経済に関する視点
AGI の誤謬と知能の擬人化
人工汎用知能（AGI）は、研究、ビジネスモデル、若い創業者の志向に歪みをもたらす PR 用語に過ぎません。現在の物語――「私たちは身体を持たない超知能を構築しており、それが人類を救うか滅ぼすか」というものは、若いエンジニアを落胆させるサイエンスフィクションであり、彼らの生涯で作るべきものが何も残っていないと暗示しています。
知能は擬人化すべきではありません。技術システムの目的は人間的な「理解」ではなく、予測可能性と制御を提供することです。たとえば産業サプライチェーンのモデリングにおいて、システムは物流を「理解」せずとも出荷遅延を驚異的に予測できます。重要なのは不確実性が減少し、効果的なエンジニアリングと計画が可能になることです。
AI を集合的経済システムとして捉える
知能は個人の属性ではなく集合的な属性です。人間の知能は、行動に必要な文脈を提供する意見・思考・文化の集合から生まれます。したがって、AI は単独の統計的ブラックボックスではなく、集合的経済システムとして見るべきです。
経済学とゲーム理論の役割
単なるパターンマッチングを超えるために、AI は経済的思考、特にゲーム理論とメカニズム設計を取り入れる必要があります。
- ゲーム理論：戦略的相互作用に基づく結果を予測する数学的枠組み（$F=ma$ が物理的運動を予測するのと同様）。
- メカニズム設計：ゲーム理論の「逆」問題。既存のゲームの結果を予測するのではなく、"特定の望ましい結果（公平性、富の分配、市場効率など）を達成するためにどんなゲームを設計すべきか" を問います。
- 契約理論：情報の非対称性を扱うメカニズム設計のサブセットで、片方が他方より多く知っている状況で真実のやり取りを促すインセンティブが必要です。
基盤モデルの技術的限界
大規模言語モデル（LLM）はスケーリングで驚異的な性能を示しますが、不確実性やインセンティブの枠組みが欠如しているため、現実から乖離しがちです。
AlphaFold 事例と予測駆動推論
AlphaFold はタンパク質予測の強力なツールですが、仮説検証に用いると誤解を招くことがあります。量子揺らぎとリン酸化に関する研究では、AlphaFold の予測が極めて狭い信頼区間を示し、実際の真実から大きく外れていることが判明しました。これは訓練データにその特定の揺らぎ例が十分に含まれていなかったためです。
この問題を解決するために 予測駆動推論（Prediction‑Powered Inference, PPI） が開発されました。PPI は少量の真実データと大量のバイアス付きモデル予測を統合し、誤差バーを真実を覆うようにシフトさせます。バイアスのある基盤モデルを使用していても、科学的に信頼できる回答を提供します。
LLM の信頼度の問題
LLM は次の単語を予測するだけで訓練されているため、自己の信頼度を定量化できません。LLM が自信を示すときは、訓練データ中の人間の主張を模倣しているだけであり、不確実性下での認識論的推論を行っているわけではありません。
持続可能なデータ市場の設計
データはモデル訓練の資源であるだけでなく、価値とプライバシーの影響を持つ商品です。三層データ市場モデルは、ユーザー・プラットフォーム・データ購入者間の緊張関係を示します。
- ユーザー：サービスと引き換えにプラットフォームへデータを提供。
- プラットフォーム：サービス向上のためにデータを利用し、事業継続のために第三者へ販売。
- データ購入者：市場調査や行動研究のためにデータを購入。
最適化されたシステムでは、プラットフォームは調整可能な差分プライバシーを提供します。プライバシーを重視するユーザーは高いプライバシーバジェットを持つプラットフォームを選び、データ購入者はノイズが多いデータに対しては低価格で購入します。目的は単一の目的関数を最適化するのではなく、社会福祉を最大化する数学的均衡を見つけることです。
AI 時代の新しいリベラルアーツ・トライアングル
社会的に責任ある技術を構築するため、次世代の研究者は計算最適化だけに偏らず、以下の多分野的「三角形」思考を採用すべきです。
- 計算思考：モジュラリティ、抽象化、アルゴリズム効率。
- 推論思考（統計）：不確実性の管理、エラー率の制御、最適実験の設計。
- 経済思考：インセンティブの理解、戦略的相互作用、人間と機械エージェントを調整するメカニズム設計。
この三つを組み合わせることで、AI は「肩に乗る秘書」から、人間の意思決定を改善し、不確実性を緩和（市場が資源に対して行うように）し、人間の創造性と民主主義を支えるシステムへと進化します。