大規模言語モデルの社会的および経済的リスク

価値の集中化と経済的置換

大規模言語モデル（LLM）は、人間の知識と創造性の経済的価値を、少数のモデル所有者や生産者の手に集中させるリスクがあります。この変化は、若手専門家のための伝統的なキャリア形成の階段を解体する恐れがあり、知識労働の仕事が自動化されることで、恒久的な経済的下層階級を生み出す可能性があります。

批判的な人々は、現在のAI開発の軌道は、LLM企業が音楽、ブログ、実験データを含む人間が作成したコンテンツを、元の作成者に報酬を提供することなく「海賊行為」することを可能にしていると主張しています。このダイナミクスは、社会によって生成された価値がAI生産者に吸収され、その後、彼らがその同じ知識の合成版にアクセスするために一般市民に料金を課すというフィードバックループを生み出します。

創造的インセンティブの侵食と「スロップ（Slop）」の台頭

AI生成コンテンツの拡散が、人間の創造性の低下と、しばしば「スロップ（slop）」と呼ばれる凡庸さの一般的な受容につながるという懸念が高まっています。

芸術とスキルの影響

一部の主張では、技術の習得という退屈なプロセスをプロンプトが置き換える、つまり、実践と創造の分離が、芸術の本質的な価値を損なうと述べています。これは、学術的な場におけるAI音楽ツールの統合に例示されており、一部の人々は、それが創造のプロセスよりも出力を優先してしまうことを恐れています。

人間の真正性の需要

逆に、一部の観察者は、人間が作成した芸術はプレミアム（付加価値）を維持すると信じています。マラソンに例えて、車が存在するにもかかわらず、人々は自己表現やカタルシスのために走り続けるだろうと彼らは示唆しています。

"明らかな盗作や研究所による複製に関わらず、人間が作成した芸術への需要は常に存在するだろう。"

社会的および心理的影響

経済を超えて、LLMの日常生活への統合は、人間同士のつながりや真実の認識に影響を与える可能性があります。

人間のつながりの喪失

プロフェッショナルなメールからソフトウェアエンジニアリングのトレードオフに至るまで、コミュニケーションがますますプロンプトによって処理されるようになるにつれ、人間が、仕事の作成や議論という共有体験を通じて社会化し、つながることをやめてしまうリスクがあります。

情報の制御と真実

モデルの重み（model weights）を制御する者が、大衆が消費する情報、データ、および意見を決定できる能力は、一部の人々によって、新しい形のシステム的な情報制御と見なされています。これは、多くのユーザーがLLMの回答を事実としての真実として批判なしに受け入れてしまう傾向によって悪化します。

AI自動化に関する相違する視点

AI統合の長期的結果に関する意見は、「ドゥーマー（doomer）」的な視点と、AIを歴史的な自動化の傾向の継続と見なす視点の間で分かれています。

「ドゥーマー」の視点

この視点は、AIは「私たち全員が扱うにはあまりに鋭すぎる剣」であり、潜在的に社会的不安、経済的停滞、および創造するインセンティブが失われ、人間の進歩が衰退する世界へとつながる可能性があると仮定しています。

歴史的な自動化の視点

他の人々は、AIは単に19世紀の産業用織機のようなツールに過ぎないと主張しています。この見解は、即座の混乱は大きいものの、自動化は最終的に高価な出力をコモディティ化し、生活の質を全体的に向上させると示唆しています。

"ラッダイト運動の経済的崩壊への恐れとは裏腹に、経済は常に成長する。私たちがデスクジョブに従事している唯一の理由は、私たちがこれほどまでに自動化を進めたことで、一部の私たちに生存のための仕事が必要なものに従事させられているからだ。"

政治的な必要性

一部の寄稿者は、知識労働の性質が変化するにつれ、極端な富の偏在や暴力的な革命を回避するための、富と機会ををより公平に再分配するための積極的な政治的介入が必要であると示唆しています。