技術チームにおけるAI生成コンテンツのマナー

AIによって生成されたコード、ドキュメント、およびデバッグ調査の普及は、技術チームに新たなエチケットの課題をもたらしました。それは、AIの出力をいつ他の人間に転送することが許容されるかを判断することです。これをナビゲートするための核心的な原則はシンプルです。人間の注意を求めるのであれば、人間の努力を示しなさい。

AI疲労のコスト

消化されていないAIの出力を同僚に転送することは、認知負荷を送信者から受信者に移してしまうため、配慮に欠けると見なされることがよくあります。「これは読んでいません。そのため、完全に正確ではないかもしれません」といった免責事項を添えてドキュメントを送信する場合、送信者は実質的に、自分が拒否した検証作業を受信者に実行するよう求めていることになります。

これは「AI疲労」として知られる現象を引き起こします。エンジニアは、冗長で、不正確な可能性があるテキストを読むことに、一日のうちのますます多くの時間を費やすようになります。この疲労は、人間によるキュレーションなしにAIに過度に依存する人々が作成した成果物に対する、潜在意識的な回避行動につながります。

コードレビューとPRへの影響

ソフトウェアエンジニアリングにおいて、AIによって生成されたPull Request (PR) における人間の努力の欠如は、システム的な非効率性を招く可能性があります。

レビュアーの燃え尽き: レビュアーは、大規模でAIが生成したPRの中から、ハルシネーション（幻覚）やエラーを排除するために余分な時間を費やさなければなりません。これらの思慮深いレビューに対して、AIが生成した修正案が返されると、プロセスが軽視されているように感じられます。
認知的な負債: 開発者が、なされた選択を自分自身で理解せずにAIのコードを提出する場合、レビュー中に特定のインプリメンテーションがなぜ選ばれたのかを説明できず、プロジェクトの長期的な認知的負債を増大させます。
サブエージェントの役割: チームメンバーは、自分たちの主な役割が「他人のAIの出力をフィルタリングすること」になったとき、コラボレーターではなく「サブエージェント」のように感じ始めるかもしれません。

倫理的なAI統合のための戦略

プロフェッショナルとしての信頼とチームの効率を維持するために、技術的なワークフローにAIを統合する際には、以下の慣行が推奨されます。

1. キュレーションとラベル付け

AI生成コンテンツは、明確にラベル付けされ、人間のコメントを添えるべきです。モデルからの生のダンプを送信するのではなく、送信者は情報を統合し、最も関連性の高い部分を強調すべきです。

2. 必須の人間のレビュー

すべてのAI生成コードは、人間のコードレビューに提出される前に、作成者自身によるレビューを行わなければなりません。生成に使用したツールに関わらず、コードの正確性に対する責任は人間の作成者にあります。

3. 簡潔さを優先する

AIはしばしば冗長であるため、簡潔にするための編集作業を通じて人間の努力を示すことができます。簡潔さは、受信者の限られた注意力を尊重している証です。

反論と視点

「努力を示す」という原則は広く支持されていますが、一部の人々は、それは労働ではなく実用性の問題であると主張しています。

"This is just the labor theory of value, applied to documents... If they're valuable, people will want to read them. Whether it was unpleasant for someone to create them isn't a factor."

他の人々は、問題はAI自体ではなく、全体的な人間の努力の低下であるか、あるいはAIは単なるツールであり、その出力は本質的に人間の出力であると示唆しています。しかし、実務家の間での主流の意見は、AI生成の「安さ」が消費の人間コストを高くし、コミュニケーションチャネルを「スロップ（slop）」で溢れさせることを避けるために、より高い基準のキュレーションを必要とさせる、ということです。