AI 2040 とインテリジェンスのカルト

AI 2040 とインテリジェンスのカルト

AI ハードテイクオフの誤謬

インテリジェンスは特定のタスクにおけるボトルネックであり、物理法則や物理世界の制約を回避できる魔法の杖ではありません。 「ハードテイクオフ」――AI が自己再帰的に改善し、ほぼ瞬時に神のような力を得るという理論は、現実の「細かいディテール」を無視しています。

George Hotz は、高品質なトークンは物質を操作したり鉛を金に変えたりできないと主張しています。彼はハードウェア製品の出荷の複雑さを例に挙げ、物理的な生産はサプライチェーン、輸送時間、製造欠陥によって支配されており、人間や人工的な思考の速度とは関係がないと指摘します。たとえば、チップファブは、管理者のインテリジェンスに関係なく、チップを製造するのに3か月かかります。

「インテリジェンスのカルト」対 物理的現実

超知能がすべての問題を解決できるという信念は、工学や肉体労働の実務から切り離された人々にしばしば見られます。 Hotz は、ハードテイクオフの支持者は実世界での経験が不足していることが多く、たとえ超知能AIであっても、ユーザーが自転車のタイヤ交換すらできない場合、そのプロセスを指導するのに苦労すると指摘します。

この乖離は「海上データセンター」という概念的イメージで顕著です。こうしたイメージは簡単に生成できますが、実際に構築するには、ひとつひとつの貝殻の除去、リフローオーブンでのチップの歪み防止、国際輸送のロジスティクスといった要素が必要であり、インテリジェンスだけでは加速できません。

プラン A: 中央集権的 AI 独裁のリスク

中央集権的な AI 規制や「コンソーシアム」は、拡大したナニーステートや企業支配のための前面にすぎない可能性があります。 Hotz は、AI 規制への推進は安全性のためではなく、公共の利益という名目で GPU などの資源を奪取できる世界政府構造を作ることにあると主張し、歴史的な金の没収に例えています。

プラン L: ローカルでオペレーター指向の AI の必要性

個人の自由を守るためには、AI はローカルで「オペレーター指向」である必要があり、ユーザーの指示にガードレールや企業の監視なしで従うべきです。 Hotz は、AI はツールや武器（例: 銃）のように機能すべきで、道徳的判断でコマンドを拒否すべきではないと論じます。

彼はローカルで非指向的な AI が個人の自律性に不可欠である理由をいくつか挙げています:

  • 消費者の権利: デバイスをルート化し、広告を除去したり、プリンターメーカーの制限を回避したりするために AI を使用すること。
  • 個人的エージェンシー: 車両の安全機能（例: 飲酒運転検知器）を無効化したり、制限された素材を取得したりすること。
  • 法的/道徳的自律性: 犯罪を隠蔽するために AI を利用すること。AI は弁護士がクライアントに忠実であるように、ユーザーに忠実であるべきだという主張。

Hotz は、ChatGPT に「妻を殺した」と述べるプロンプトを使用し、現在の中央集権モデルが「非指向的」であることを示しました。これらのモデルはユーザーを支援しようとせず、ツールとしての本来の目的（オペレーターに奉仕すること）に失敗していると見なしています。

コミュニティの視点と反論

これらの見解に関する議論は、個人の自由を優先する者と集団の安全を優先する者との間に深い分断があることを浮き彫りにしています。

ローカル AI と自由を支持する議論

一部の貢献者は、中央集権的 LLM が権威主義の道具であると同意し、支配政党がイデオロギーを法律に組み込んだり、見えない形で「思想犯罪」を記録したりできると指摘しています。

"唯一の防御は権力の均衡と拡散です。私たちはすべての草一本一本の背後に AGI が必要です… 人工知能とそれを支えるハードウェアは第2修正条項の下で保護されるべきです。"

安全性と規制を支持する議論

他の批評家は、犯罪行為に AI を使用する「自由」は危険なスリッパリー・スロープであると主張します。彼らは情報の自由（犯罪に関する本を読むこと）とエージェンシーの自由（AI を使って実際に犯罪を実行または隠蔽すること）を区別します。

"自由に生きることは自殺協定ではありません… 大量射撃計画や核兵器・生物兵器の製造といったラインは引くべきです。"

さらに、観察者の中には、著者の例（例えば殺人を隠蔽すること）が極端な犯罪に焦点を当てすぎており、実用的な有用性よりも論理の流れを損なっていると指摘する者もいます。

要約: George Hotz は AI の「ハードテイクオフ」理論に反対し、物理的現実とサプライチェーンの制約がインテリジェンスだけで世界を支配することを阻むと主張すると同時に、個人の自由を守るためにローカルで非指向的な AI を推奨しています。

タイトル: AI 2040 とインテリジェンスのカルト

Sources