AI コーディングの危険な錯覚：Jeremy Howard が語るソフトウェアエンジニアリングとコーディングの違い

中核的主張：コーディングはソフトウェアエンジニアリングではない

AI 支援コーディングは、ソフトウェア開発をエンジニアリングの学問ではなく、スタイル転送問題として扱うことで、生産性の危険な錯覚を生み出す。大規模言語モデル（LLM）は、訓練データ中の既存パターンを補間して構文的に正しいコードを生成できるが、真のソフトウェアエンジニアリングを定義する高レベルの設計、アーキテクチャ的推論、そして新規問題解決は行えない。この違いは重要で、AI に認知タスクを委ねつつシステムの深いメンタルモデルを維持しないと、組織は「理解負債」を抱えることになる。すなわち、動くコードはあるが、実際にそれを理解できる人間がいない状態になる。

補間の錯覚と「バイブコーディング」

現代の AI コーディングツールはしばしば「スロットマシン」のように機能し、開発者がレバー（プロンプト）を引くと確率的な結果が返ってくる。このプロセスは「バイブコーディング」と呼ばれ、プロンプトエンジニアリングとコンテキスト管理によって制御感を演出するが、技術的直感に根ざしたものではない。

組成的創造性 vs. 真のイノベーション

Jeremy Howard は創造性のタイプを次のように区別する：

• 組合的／組成的創造性：LLM はこの領域で非常に高い効果を示す。既存の人間知識の断片を膨大かつ新しい形で組み合わせられる。たとえば、Rust で C コンパイラを書くことは、訓練データ中の既存 Rust コードとコンパイラロジックを補間した結果であり、「クリーンルーム」的な発明ではない。
• 外挿的創造性：LLM は訓練分布の外へ出ることが苦手だ。真に新規の解決策が求められる問題では、LLM はしばしば表面的な類似性に頼り、根本的に誤った回答を返すことが多い。

スロットマシン効果

LLM が時折「勝ち」（動く機能）を提供すると、開発者はプロンプトと微調整のループに中毒になる。Howard は、これが開発者のコントロール感を失わせ、モデルの出力に賭けるギャンブル的な状態になるため、精神的に消耗しストレスが増大すると指摘している。

組織的衰弱のリスク

コーディングを AI に委ねることは、組織が生き残り・進化するために必要な知識を蝕む危険がある。Howard は、知識は Wikipedia にある静的な資産ではなく、適応的取得の生きたプロセスだと主張する。

コントロールの侵食

AI がコードベースの大半を生成すると、「有害なコントロールの侵食」が起こる。開発者は設計やエンジニアリングの筋肉を使わなくなり、能力向上の機会を失う「衰弱」状態に陥る。特に中堅開発者は、AI の出力を検証するために必要な深い直感を身につける機会を失う危険がある。

理解負債

Howard は IPykernel の複雑なクラッシュを AI で修正した例を挙げる。AI は最終的に問題を解決したものの、結果として誰も理解できないコードが残った。このようなコードは長期的な安定性やメモリリーク、エッジケースの脆弱性が不明のままであり、企業の製品を「人が理解できないコード」に賭けることは投機的で危険な賭けになる。

摩擦を通じた学習：インタラクティブプログラミングの必要性

真の技術的直感は「望ましい困難」―現実がメンタルモデルに逆らう摩擦―を通じて培われる。

低摩擦ツールの失敗

全ての摩擦を取り除くツール（自律 AI エージェントなど）は、長期記憶や深い理解の形成を阻害する。Howard はエビングハウスの研究と間隔反復の概念を引用し、記憶は「取り出すのが大変」なときにしか形成されないと指摘する。

REPL とノートブックの力

衰弱に対抗するため、Howard はインタラクティブで状態を保持する環境（REPL、Jupyter Notebook）への回帰を提唱する。リアルタイムでオブジェクトを操作し、問題に「突っ込んで」逆戻りさせることで、本当の洞察が得られると主張する。

"人間は、コンピュータ内部のオブジェクトをリアルタイムで操作し、観察し、移動させ、組み合わせることができれば、はるかに多くのことができる。"

彼は、目的は人間をループから排除することではなく、インタラクティブ環境で AI を活用し、人間がシステムの深いメンタルモデルを構築できるようにすることだと強調する。

AI リスク：集中化 vs. 絶滅

存在的リスクに関して、Howard は最大の危険は自律的な AI が「離陸」して世界を破壊することではなく、権力の集中にあると論じる。

• 集中化の罠：AI 絶滅を恐れるあまり、数少ない大企業や政府に権力を集中させ「安全」を確保しようとする動きがある。
• 真の脅威：歴史上最も強力な技術を少数の手に集中させることは、権力欲に駆られた者がその支配を独占しようとするインセンティブを生み、文明に対するリスクは rogue AI よりもはるかに大きい。

Howard は、技術を社会全体に広げ、権力のバランスと相互牽制を保つことが、単一障害点を作らない解決策だと考えている。