AIとソフトウェア生産性の錯覚

生産性のパラドックス：コードの増加、企業の増加ではなく

生成AIはコードを書く速度を大幅に向上させましたが、この速度は、革命的なテック企業の創出に比例した増加をもたらしていません。推進派は、開発速度が10倍になれば、AirbnbやStripeのような新しいユニコーン企業が次々と生まれるはずだと主張していますが、現実は、GenAIの主な受益者はGenAI企業自身であるということです。

この不一致は、コードの行を書くことがソフトウェア開発における主要なボトルネックではないために存在します。AI支援によるコーディングという、一見「銀の弾丸」のように思われるものは、プロダクトマーケットフィット、ネットワーク効果、そして安全でスケーラブルなシステムを構築するために必要な厳格なエンジニアリングの複雑さを無視しがちです。あるコメンテーターが指摘したように、AirbnbやStripeのような企業は、コードの生産速度によって制限されていたのではなく、マーケティングやネットワーク効果によって制限されていたのです。

「バイブ・コーディング（Vibe Coding）」の危険性と知的依存

非技術的な創業者たちが、CTOや深い技術的専門知識を持たずにAIエージェントを使用してMVP（Minimum Viable Product）を構築するという「バイブ・コーディング」の傾向が高まっています。このアプローチは、有能さという危険な錯覚を生み出し、いくつかの重大なリスクを引き起こします。

セキュリティの脆弱性: 非専門家は、動作はするものの、一般的な攻撃に対して「セキュリティが強化されていない」コードを生成してしまう可能性があり、潜在的に機密性の高いユーザーデータやクレジットカード情報をさらけ出すことになります。
アーキテクチャの脆弱性: AIはしばしば、ウェブアプリ、データベース、およびバックグラウンドプロセスを単一のサーバーでホストするといった、最適ではないアーキテクチャを推奨します。これらは、大量のトラフィックが発生する本番環境には適していません。
知的依存: 開発者が問題について批判的に考えるのではなく、AIに答えを求めるという「ゲーム化された大規模な知的依存」のリスクがあります。

AIコーディングの「ギザギザの知能（Jagged Intelligence）」

AIが生産性に与える影響は一様ではありません。ユーザーの既存の専門知識に基づいて変化します。この現象は「ギザギザの知能」と呼ばれ、AIはある種のタスクに対しては非常に効果的ですが、他のタスクでは壊滅的な失敗をします。

専門知識レベルによる影響

非専門家の場合: AIはアウトプットを大幅に増大させ、以前はコードを書けなかった人々が動作するアプリケーションをプロダクトとして提供することを可能にします。しかし、彼らには、AIが「クラウン・カー（clown car）」コード（動作はするが構造的に不健全なコード）を生成しているときに、それを認識する直感力が欠けてています。
専門家の場合: 経験豊富なエンジニアは、ボイラープレート、繰り返しの多いSQL、またはシェルスクリプト（bash）にはAIが最も有用であることを見つけますが、些細ではないドメイン固有の問題に取り組む際には、実際には作業を遅らせてしまうことがあると気づいています。ある専門家が指摘したように、「私が非常に経験豊富な分野においては、手動で作成するよりも、より質の低いアウトプットを、より遅い速度で生成します」。

品質 vs 速度のトレードオフ

AIはテストを通過するコードを生成できますが、必ずしもコードレビューを通過するコードを生成するわけではありません。機能の提供を加速させることはできますが、技術的負債の蓄積を加速させることもあります。ある視点では、AIは一部の人々にとっての教育ツールとなり、学生が伝統的な方法よりもはるかに早く技術的負債や保守性の問題に直面することになる、という考え方もあります。

AI開発における人間要素の統合

AIによって加速された失敗を避けるけるために、テック業界は人間の専門知識と批判的な監視を維持し続けなければなりません。経験豊富な実務家たちの間のコンセンサスは、AIは加速器であり、推論の代わりにはならないということです。

"AI will make you faster at shoveling shit if you only know how to shovel shit."

AIをワークフローに効果的に統合するには、「human-in-the-loop（人間が介在する）」アプローチが必要です。例えば、一部のシニア・デベロッパーは、AIを使用してジュニアのPR（Pull Request）をレビューする際、分析のために特定の行をフラグ立てして、同時にジュニアに、単にAIが生成した修正案を受け入れるのではなく、コードの所有権と理解を示すためにファンクショナル・テスト（functional tests）を書くことを要求しています。