Rich Hickeyが語る、AIが「ツール」ではなく「自動化」である理由

ツールと自動化の区別

Clojureの作成者であるRich Hickeyは、大規模言語モデル（LLM）を「ツール」と呼ぶ一般的な風潮は、根本的なカテゴリーエラーであると主張しています。彼は、ツールとは専門知識、継続的な指示、そして感覚的なフィードバックを必要とする道具であるのに対し、LLMはタスクを独立して実行し、ユーザーを根本的なプロセスから遠ざける「自動化」として機能すると述べています。

ツールの定義

Hickeyはツールを、個人が「操る」もの、つまり直接的な制御、意図、そして身体的または知的な関与を必要とするプロセスであると定義しています。真のツールは以下の特性を備えています。

• 予測可能性と信頼性: 決定論的であり、制限されたパラメータ内で機能する。
• スキルの習得: ツールを使用することで専門知識が構築される。ツールを操る行為そのものが、タスクの物理的性質、論理、本質についてユーザーに教えるフィードバックを提供する。
• 親密さ: ユーザーが出力に対して継続的な指示を維持する。

この枠組みにおいて、ツールはユーザーの主体性の延長です。ツールを使用するとき、作業を行っているのはユーザー自身であり、ツールはその作業を実行するための媒体に過ぎません。

自動化としてのLLM

対照的に、HickeyはLLMを自動化に分類します。彼はLLMをファストフードのドライブスルーに例えています。それは料理を助けるためのツールではなく、料理という行為を回避するために設計されたシステムです。LLMを使用してコードを書いたりテキストを要約したりする場合、ユーザーは実際の作業を機械に委ねてしまいます。

この様式の変化は、いくつかの損失をもたらします。

• 学習の喪失: 書くことや読むことの苦労を回避することで、ユーザーは批判的思考、論理構成、ドメイン固有の知識を養う機会を失います。
• 制御の喪失: ユーザーはリクエストを出しますが、モデルは独自に動作します。この「リクエスト/自動化サイクル」には、真の習熟に必要な継続的かつ詳細なフィードバックループが欠けています。
• 脆弱性: ユーザーはモデルの現在のイテレーションの「その場限りの詳細」に依存するようになり、安定した再現性のあるスキルセットを構築するのではなく、システムを操作するために「ブードゥー」的なプロンプトに頼るようになります。

コミュニティの視点

Hickeyの立場をめぐる議論は、AIを変革的なユーティリティと見なす人々と、人間の創造プロセスを優先する人々の間の分断を浮き彫りにしています。

• 区別への支持: 多くのコメンテーターは、「単なるツールである」という言説が、主体性の喪失を覆い隠すために使われているという意見に同意しています。支持者は、生成されたコードやテキストの根底にある考え方をユーザーが理解していない場合、そのユーザーは実際に作業を行っておらず、「容易に代替可能」な存在になってしまうと主張しています。
• 定義への批判: 批判者は、Hickeyの定義はあまりに狭い、あるいは学究的すぎると主張しています。一部の人は、ツールは「ツールらしさ」から「エージェント的な振る舞い」までのスペクトル上に存在すると示唆しています。あるコメンテーターは、「ツールは手ではなく、最終的には精神によって操られるものだ」と指摘し、複雑で非決定的なシステムであっても生産的なワークフローに統合できると示唆しました。また、電動ノコギリのような従来のツールでさえ危険で予測不可能になり得るが、それでもツールと見なされていると指摘する声もありました。

ツールは、ユーザーがそのプロセスを理解し、制御し、そこから学ぶことを可能にするものです。自動化は、ユーザーがプロセスをブラックボックス化し、結果のみを享受することを可能にします。 — @handle

• 実用的な視点: 一部の実務者は、学習に関するHickeyの懸念の妥当性を認めつつも、定型業務や反復作業にLLMを使用することの経済的効率性は純粋なプラスであると主張しています。彼らは、モデルの内部生成が自動化されていたとしても、LLMを中心に構築された「ハーネス（枠組み）」やワークフロー自体はツールと見なすことができると示唆しています。