Hacker News AI Goalposts: AIの進歩とAGIという動く標的の追跡
汎用人工知能(AGI)の追求は、しばしば「ゴールポスト(目標地点)」によって特徴付けられます。これは、懐疑論者がAIには決して達成できないと信じている特定のタスクのことです。stoppels.ch/goalposts でホストされているコミュニティプロジェクトは、Hacker Newsの議論から抽出されたこれらの課題を追跡しており、ユーザーはそれらのマイルストーンが達成されたかどうかを投票できます。その結果は、AIがあるタスクを一度実行できる能力と、それを確実かつ日常的に実行できる能力との間の根深い緊張関係を浮き彫りにしています。
信頼性のギャップ:一度限りの成功対日常的な能力
多くのフロンティアモデルは、かつては不可能と考えられていたタスクを実行できるようになりましたが、確率的な成功と信頼できるツールとの間には決定的な違いが存在します。
ユーザーは、多くのLLMが無限の計算リソースと無限の試行回数を与えられればタスクを達成できるかもしれないが、専門的なワークフローにおいて日常的にそのタスクを完了させることはできないと指摘しています。例えば、AIがユーザーを驚かせるような自発的な質問をする能力は発生していますが、それは開発者がアプリケーション設計において頼りにできる日常的な能力ではありません。
専門知識におけるドメイン固有の失敗
コーディングが「解決」されたと認識されているにもかかわらず、AIは依然として専門的な現実世界の物理的知識や、ニッチな領域における複雑な推論に苦戦しています。
- 物理的および機械的知識: ユーザーは、AIが農業、建設、機械などの分野でしばしば失敗すると報告しています。あるユーザーは、AIが石膏によるプラチナ硬化シリコーンの阻害に関して、その主張を裏付けない情報源を捏造し、不正確で壊滅的な可能性のあるアドバイスを提供した例を挙げました。
- 視覚的空間推論: ASCIIアートは依然として大きなハードルです。モデルがそれらしいASCIIアートの足を生成できたとしても、他のモデル(ChatGPTの無料版など)は同じASCIIアートを「列車/機関車」と誤認する可能性があり、これは空間理解の欠如を示しています。
- 複雑なデータ解釈: AIツールは、チェスのスコアシートに間違いが含まれているような「ノイズの多い」データの解釈に依然として苦戦しています。人間の専門家であれば、プレイレベルの文脈に基づいて意図を推測できるようなケースです。
AIの課題の進化(2016年〜2026年)
ユーザーがAIに課す課題の種類には顕著な変化が見られます。初期の課題は基本的な機能能力に焦点を当てていましたが、現代の課題はより高次の認知機能や物理的相互作用に焦点を当てています。
- 2016年時代: チューリングテストの合格、基本的なコードの記述、または単純なデジタルアクション(例:「コーヒーを注文して」)の実行が中心でした。
- 2026年時代: 物理的なドアを開けること、人間らしい意地悪さを説得力を持って模倣すること、そして新しい科学的ブレークスルーを起こすことなどが含まれるように進化しました。
チューリングテストと「オウム」の問題
チューリングテストに関する議論は、人間が実在の人物と洗練された「オウム」を区別できないことが多いため、根本的に欠陥がある可能性を示唆しています。短期間でチューリングテストに合格する能力は、長期間にわたる「敵対的」なチューリングテストに合格することと同等ではなく、後者の方がはるかに困難なマイルストーンであると主張する声もあります。
数学的および科学的ブレークスルー
一部のユーザーは、ナビエ・ストークス方程式の存在と滑らかさの問題のような未解決の数学的問題の解決を通じて、AIにとっての「最後の試験」が部分的に満たされたと考えています。しかし、単一のテスト(例:提案された課題セットの1/6)に合格しただけでは勝利を主張するには不十分であると反論する声もあり、AGIの「ゴールポスト」は要件の相対的な複雑さに基づいて動く標的であることが多いと強調されています。
Sources
関連
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch