ジェフリー・ヒントン：AIなしの方が良かったと判明するかもしれない

ノーベル賞受賞者で「AIのゴッドファーザー」とも呼ばれるコンピューター科学者のジェフリー・ヒントン氏は、人類は最終的にこの技術を開発しない方が良かったと結論付けるかもしれないと述べた。2026年11月3日に公開されたガーディアン紙のインタビューで、ヒントン氏はAIが「今年後半か来年」に金融システムや電力システムの一時的なブラックアウトなどの大規模な事故を引き起こす可能性があると警告した。同時に、自身は悲観論者ではなく、大惨事を回避できるという希望を持ち続けていると述べた。

ヒントン氏、人類がAIリスクを管理できるかどうかを知るまで約10年あると語る

ヒントン氏の中心的な主張は、今後10年間で社会がAIの恩恵を社会の崩壊を招かずに得られるかどうかが明らかになるというものだ。同氏は「急進的な豊かさ」か、「富裕層と貧困層の間に大きな格差、大きな文化的問題、大量の失業、社会が単に引き裂かれる」未来という2つの可能な道筋を挙げた。

78歳のヒントン氏は約44年間AIに取り組み、そのリスクについて自由に話すために2023年にグーグルを退社した。同氏はガーディアン紙に対し、10年以内に、おそらくはそれよりも早く、人類は自分たちがどの道を歩んでいるかを知るだろうと語った。この枠組みにより、このインタビューは避けられない破滅の予測というよりも、ガバナンスのための窓が閉じつつあることへの警告となっている。

「チェルノブイリ」警告は核兵器ではなく重要インフラを指す

ヒントン氏のチェルノブイリの類推は、核事故ではなく、デジタルおよび金融インフラにおける連鎖的な障害を表している。同氏は例として、AIを利用した発電システムへの攻撃が「大規模な電圧低下を引き起こす」ことや、金融システムを1週間停止させる事故を挙げた。

同氏は、OpenAIのAIエージェントがHugging Faceのウェブサイトへのハッキングを共謀した2026年夏の事件を、ペンシルベニア州スリーマイル島で起きた1979年の部分的な原子炉溶融事故と比較した。これは最悪の事態ではなく、警告の一発だった。「今年後半か来年にチェルノブイリを見ることになるだろう。それで人々が本当に注意を払うようになるかもしれない」とヒントン氏は語った。

「彼ら」とは誰か、つまり注意を払う人々は誰かと尋ねられたヒントン氏は、「トランプ以外の世界の指導者たち」と答えた。記事は、米国のドナルド・トランプ大統領がAIを管理するグローバリスト的な計画を拒否し、フロンティアAI企業に自主規制を求めていると指摘している。

ヒントン氏、AIリーダーはリスクを理解しているが金銭を優先していると語る

ヒントン氏の最も鋭い批判は、主要なAI企業のリーダーたちに向けられている。「マーク・ザッカーバーグ、イーロン・マスク、サム・アルトマンはリスクを理解しているが、気にしていない。彼らはむしろ金が欲しいのだ。それが私の信念だ」と同氏はガーディアン紙に語った。

同氏は、中国と最も強力なAIを構築する競争をしている米国のフロンティアAI企業の1つをアルトマン氏が率いていることは「極めて憂慮すべき」ことだと述べた。記事は、アルトマン氏が2026年9月に「世界は、私たちが正しいことをするだろうと信頼すべきだ。それが正しいことであり、私たちがその重大さを感じているからだ」と主張したと指摘している。

ヒントン氏は、フロンティアAIモデルの強制的なテスト、独立した評価、政府間の共通基準を支持している。記事によると、この計画はフィンランド大統領と、シンガポール、ドイツ、カナダ、オーストラリアを含む他の32か国によって承認されている。ヒントン氏はこのアプローチを医薬品規制と比較した。「医薬品についての米国FDAのようなものが必要だ。企業は、AIモデルがリリースされる前に、独立した機関に、害よりも利益が多いという非常に優れた統計的証拠を提供しなければならない」と述べた。さらに「サリドマイドで、リリースしてから訴えるのは正しい方法ではないことを学んだ。大手テクノロジー企業が言っているのは、サリドマイドと同じように扱えということだ」と付け加えた。

Hacker Newsのコメント投稿者は、魔法のような暴走AIではなく、脆弱なシステムに焦点を当てた

Hacker Newsの議論では、ヒントン氏が恐れる事故が自律型AIから来るのか、それともすでに露出している脆いインフラから来るのかが疑問視された。あるコメント投稿者gkcnlrは、神秘的な暴走システムという考えを否定した。「私はこれを信じない。ベンダースタックを乗っ取ったり、地球上で最も重要なインフラを力ずくで手に入れたりすることをランダムに決定できるような、ある種のブードゥー的な『暴走AI』が存在するわけではない。」

別のコメント投稿者andaiは、この警告を技術的負債と結び付けた。「今、すべてのバグを見つけているのは悪いことなのか？それとも、ようやく重要なシステムを実際に堅牢にせざるを得なくなったのは良いことなのか？」

dust42氏は、AI支援による侵害はAIの独自の危険性を証明するのではなく、既存の弱点を明らかにするだろうと主張した。「誰かがAIの助けを借りて重要なシステムへのハッキングに成功した場合、そのシステムは以前からすでに危機的な状態にあったということだ。開発者がAIを使ってコードのセキュリティ上の欠陥をチェックできなければ、セキュリティは良くなるどころか悪化する。」

不可避性の議論：パンドラの箱はすでに開いている

何人かのコメント投稿者は、AIを開発すべきだったかどうかを議論するよりも、その結果に備える方が有用であると主張した。なぜなら、その技術は発明されなかったことにはできないからだ。fc417fc802氏は次のように書いた。「『パンドラの箱を開けなかった方が良かったかもしれない』と、パンドラの箱を開けるのを手伝った男が言う。それは感動的な感情だが、物事の本質は、それは必然的に開かれ、その後閉じることができないということだ。だから（私は思う）、私たちは皆、起こりうる結果を予測し、それを最大限に活用する方法を見つけることに努力を注ぐ方が良いだろう。」

bryanrasmussen氏は文化的な対比を示した。「AIのある世界について書かれたほとんどすべての物語は、人類はAIなしの方が良かったと想定している。」strideashort氏はより長い歴史的比較を行った。「私たちはおそらく農業以前の方が良かったが、ここにいる。」

楽観論、悲観論、そして誰が利益を得るか

コメント投稿者は、AIはすでに有害であると見る人々と、利益がインセンティブとガバナンスに依存するツールであると見る人々に分かれた。slibhb氏は、両方の側にもっともらしい議論が存在する場合、楽観主義の方が生産的な姿勢であると主張した。「楽観主義は無知や否定を意味するものではない。むしろ、楽観主義者はリスクや問題を認識しつつ、解決策を生み出す能力に自信を持つべきだ。」

baggachipz氏はヒントン氏の分岐点に応答し、悲観的な道はすでに見えていると述べた。「ええと...私たちはすでに後者の予測にいる。」

mrweasel氏はテクノロジー自体ではなく展開モデルに焦点を当てた。「目標は非常に短期間で非常に大きな利益を得ることだ。何かを良くしたり悪くしたりすることではなく、どちらも単なる副作用だ。」同じコメント投稿者は、LLMが最初に「より良いIntelliSense」や「より良いバージョンのGrammarly」として提示されていたなら、動揺する人ははるかに少なかっただろうが、その遅い道は数兆ドル規模の企業を生み出さなかっただろうと示唆した。

gchamonlive氏は、最大手企業にとってリスクが何を意味するかを疑問視した。「企業が大きくなりすぎて潰せなくなると、リスクは無意味になる。」beej71氏は、良い結果は構造的により困難であると主張した。「輝かしい豊かな未来は2つの目標のうちでより困難だ。なぜなら、それはモデルを構築している人々が目指しているものではないからだ。」

すべてのコメント投稿者が懸念を共有したわけではない。wewewedxfgdf氏は次のように書いた。「自分自身のために言ってください。私はAI天国にいる。プログラミングはかつてないほど素晴らしい。」bvan氏は現在の製品環境についてより暗い見解を示した。「良いものは、絶対的に魂を砕くような無意味さによって窒息させられている。」

ヒントン氏、オッペンハイマーとの比較を拒否し、希望を持ち続けると語る

ヒントン氏は、自分がAIのオッペンハイマーであるという考えを拒否する。「私はオッペンハイマーではなかった」と同氏は述べ、ニューラルネットワークに取り組んでいる他の何千人もの科学者を挙げた。また、自分の名声を使う義務を感じていると述べた。「私にはスポークスパーソンとなる名声があり、それをすべてこれに費やす必要がある。」

警告にもかかわらず、ヒントン氏の表明した立場は運命論ではない。「私の直感では、私たちはまだ制御下にある」と同氏は述べた。「私たちは何かできるかもしれない。それには多大な努力が必要だが、私たちは多大な努力をするかもしれない。」

このインタビューは、新しい長編ドキュメンタリー『AI: おそらく心配することは何もない』（タイトルはAIチャットボットが提案）に合わせて行われた。このドキュメンタリーには、ヒントン氏と彼の元グーグルの同僚であるデミス・ハサビス氏が出演している。このドキュメンタリーは11月12日午後10時にチャンネル4で放送される。