意思決定的な文章作成におけるAIの使用に反対する立場

ブログ記事、研究報告書、熟考されたメールなど、意味のあるテキストを生成するためにAIを使用することは、一般的に非生産的である。なぜなら、文章を書くという行為は、思考という行為と密接に結びついているからである。著者が大規模言語モデル（LLM）に下書きの作成を委ねると、論理的なギャップを特定し、主張を洗練し、主張の正確性を確保するために必要な重要な認知的作業を回避してしまう。

書くことと考えることの統合

文章を書くことは、既に形になった思考を記録する行為にとどまらない。むしろ、思考そのものを発展させる主要なメカニズムである。考えを構造的な文や段落に押し込むことで、アウトラインやブレインストーミングの段階では見えなかった矛盾や研究の不備が浮き彫りになる。

ポール・グレアムは、考えを言語化することは「厳しい試練」であると指摘している。多くの場合、著者が当初信じていたほど、そのテーマを理解しているわけではないことが明らかになる。同様に、クララ・コリヤーは、アウトラインから完成した文章への移行の過程で、特定の主張を並べてはいけないことに気づいたり、 Thesis が根本的に誤っていることに気づくことがよくあると強調している。LLMを使ってこのギャップを埋めてしまうと、著者は必要な認知的苦闘を回避し、結果として弱い主張と、主題に対する浅い理解に終わってしまう。

細かな不正確さとAI文章の「説得力」

AIによって生成された文章は、一般的に、曖昧で情報価値のない、あるいはわずかに誤った表現が密集しており、平均的な読者はそれを検出するのが難しい。LLMは統計的に確率の高い、説得力のある文章を生成するように設計されているため、情報価値のないにもかかわらず、権威あるように聞こえる文章を生み出すことがある。

ケーススタディ：AIチップの密輸

Claudeが生成したAIチップ密輸に関する段落を分析したところ、いくつかの体系的な問題が明らかになった：

曖昧さ：「輸出規制は、執行の強さに等しい」といった表現は、実行可能な情報がほとんどない。
微妙な誤り：AIチップを「コンパクト」と表現することは、密輸される物品がしばしば全体のサーバーであるという事実を無視しており、グローバルサプライチェーンが密輸を「可能にする」という主張も不正確である。
誤解を招く統計：「高級チップ」という定義も、年も指定されていないまま、数万から数十万という広範な推定値を提示することは、読者を誤導する可能性がある。特に、下限の推定値がおそらく誤りであることを考慮すると、そのリスクは高まる。
空虚な修辞：「政策が空洞化されている」という結論文は、しばしば「拍手のライト」——重要そうに聞こえるが、新たなデータを伝えることのないテキスト——として機能する。

AIは「最大限に説得力のある」文章を書くため、これらの誤りは通常の人間の誤りよりも検出が難しい。これにより、編集者にとって高い認知的負荷が生じ、すべての単語を細かく検証して正確性を確認しなければならない。

著者と読者の間の暗黙の契約

意味あるコミュニケーションには、読者が注意を払う代わりに、著者の真の思考と努力を期待するという暗黙の契約がある。AIによって生成された文章を、人間が書いたものとして提示すると、この契約は破られる。

AIを使って文章を書くことを明かさずに発表することは、誤解を招き、無礼と見なされる。それは、手を抜いた下書きを送りながら、丁寧に作成されたものだと偽っているのと同じである。読者が文章がAI生成であると知ると、内容に対する信頼と著者に対する信頼が損なわれる。なぜなら、読者は著者が実際に主張に必要な思考を凝らしたかどうかが分からないからである。

書き取りにおけるAIの推奨される使用例

意味ある文章の生成を委ねることは推奨されないが、AIは人間の思考を補完するツールとして強力に活用できる。人間の思考を置き換えるのではなく、それを強化する目的で使うべきである。

生産的な応用

ブレインストーミングと分析：AIを使って情報を検索したり、音声を文字起こししたり、データを分析して執筆プロセスに活かす。
コピーエディティング：AIを用いて行間の編集や文章の緊縮を行うが、すべての編集は人間が意図的に承認または拒否する必要がある。
批判とワークショップ：AIに原稿を批判させたり、難しい文を複数の言い回しで提示させたりして、著者が適切な表現を見つけるのを助ける。
物流と調整：企業内の調整を目的とした短く形式的なメールの下書き作成。この場合、主な目的は生産性の向上であり、意味ある思考ではない。

非生産的な応用

アウトラインからの下書き作成：箇条書きを文章に変換する行為は、思考プロセスを回避する。
非開示のAI生成：AI生成の文章を自分のものとして提示する行為は、専門的信頼を損なう。

コミュニティの見解と反論

技術系の専門家間の議論では、文章作成を認知的作業と捉える人と、生産タスクと捉える人の間に分断が見られる。

"私は、LLMの出力である作業文書をレビュー・改善するのに、相当な時間を費やしました。関係者数と最終的な作業量を考えると、手作業で書く方がはるかに速く、品質も高い製品が得られたと確信しています。"

一方で、英語が母語でない人や、大量の業務をこなす企業環境にいる人にとっては、AIは明確さとプロフェッショナリズムを確保するための不可欠なツールだと主張する人もいる。

"私はよくAIを使ってメールを書くのですが、ほぼすべてのケースで、私が伝えたい内容をより簡潔で構造的な形にしてくれます… これらのツールが利用可能なのに使わないなら、読者の時間を軽視しているとさえ思います。"

他の人々は、ソフトウェアエンジニアリングにも同じ論理が適用されると指摘している。なぜなら「コードを書くことは思考である」からであり、AI生成のコードも、AI生成の文章と同様に、見過ごされがちな微妙な誤りを抱えていることが多い。