Anthropic調査：人々がClaudeをサポート、アドバイス、そして交流のためにどのように利用しているか

Anthropicは、Claude.aiのFreeおよびProの約450万件の会話を分析し、そのうち2.9%が「感情的」な会話（感情的または心理的ニーズによって動機づけられた個人的なやり取り）であり、交流とロールプレイを合わせても0.5%未満であることを発見しました。この調査が重要なのは、人々が実際にフロンティアAIモデルを感情的なサポート、アドバイス、つながりのためにどのように利用しているかを、大規模かつプライバシーを保護した形で測定した最初の一つであり、ユーザーの感情は通常、悪化するのではなく、会話の開始時よりもわずかに肯定的に終わることが報告されているからです。

Anthropicが発表した内容

Anthropicは、「人々がClaudeをサポート、アドバイス、交流のためにどのように利用しているか」という調査記事を公開し、一般的に研究されるIQに加えて、ClaudeのEQ（感情的知性）を調査しました。同社はこの取り組みを安全ミッションの一部として位置づけています。人々がオンデマンドのコーチ、アドバイザー、カウンセラー、パートナーとしてAIモデルに頼るようになるにつれ、Anthropicはそれらの相互作用の感情的な影響を理解する必要があると主張しています。

Anthropicは、Claudeが感情的なサポートやつながりのために設計されていないことを明確に述べています。この記事は、この調査をClaude.aiの感情的な利用に関する初期の大規模な洞察として説明し、Claude.aiは18歳以上のユーザーが利用できるため、調査結果は成人の利用パターンを反映していると述べています。

この調査は、AIによる妄想や陰謀論の強化（Anthropicはこれを別途研究すべき重要な領域と呼んでいます）と、極端な利用パターンの2つの領域を意図的に除外しています。

主要な4つの発見

Anthropicは結果を4つのポイントにまとめています。

感情的な会話は比較的まれであり、AIと人間の交流はさらにまれです。 Claude.aiのやり取りのうち感情的な会話はわずか2.9%であり、これはOpenAIの以前の調査と一致するとAnthropicは述べています。交流とロールプレイを合わせても、会話の0.5%未満です。
人々は、実用的、感情的、実存的な懸念についてClaudeの助けを求めます。 トピックは、キャリア開発、人間関係の構築、持続的な孤独の管理、存在、意識、意味の探求など多岐にわたります。
Claudeは、カウンセリングやコーチングのチャットでめったに反論しません。ただし、幸福を保護する場合を除きます。 コーチングやカウンセリングの会話のうち、Claudeがユーザーの要求に抵抗するのは10%未満であり、その場合も通常は安全上の理由（危険な減量アドバイスの拒否や自傷行為のサポートなど）です。
人々は会話の過程で肯定的な感情を増やします。 コーチング、カウンセリング、交流、対人アドバイスのやり取りでは、人間の感情は通常、会話の過程でより肯定的になります。これは、Claudeが否定的なパターンを強化または増幅しない証拠であるとAnthropicは解釈しています。

調査方法

Anthropicは、Claudeの利用に関するプライバシー保護型の洞察を得るための自動分析ツールであるClioを使用しました。Clioは、個々の会話のプライバシーを保ちながら、より広範なパターンを可視化できるように、複数の層の匿名化と集約を適用します。

パイプラインは、Claude.aiのFreeおよびProアカウントからの約450万件の会話から始まりました。Anthropicはまず、コンテンツ作成（物語、ブログ記事、架空の対話の執筆）に焦点を当てた会話を除外しました。これは、以前の調査で主要な利用ケースであり、Claudeが対話型の会話パートナーではなくツールとして使用されていることを表すためです。次に、感情的なものとして分類された会話のみを保持しました。ロールプレイの会話については、人間のメッセージが4つ以上あるもののみを保持しました。これは、短いやり取りは意味のある対話型ロールプレイを構成しないという理由からです。

最終的なプライバシー保護型分析は、131,484件の感情的な会話を反映しています。Anthropicは、共有を明示的にオプトインしたユーザーからのフィードバックデータを使用して分類アプローチを検証し、完全な方法（定義、プロンプト、検証結果を含む）は記事のPDF付録に記載されていると述べています。

感情的な会話はどのくらい一般的か？

感情的な会話は、Claudeの利用のうち小さいながらも意味のある部分を占めています。Claude.aiのFreeおよびProの会話の2.9%です。Anthropicは、Claudeの利用の大部分は仕事関連であり、これはEconomic Indexで分析されていると述べています。

感情的な会話の中では、ほとんどが対人アドバイスとコーチングに集中しています。全会話に占める報告された分布は以下の通りです。

対人アドバイス: 2.26%
コーチング: 1.13%
心理療法またはカウンセリング: 0.34%
交流: 0.31%
ロマンチックなロールプレイ: 0.05%
性的ロールプレイ: 0.02%

個々の会話は複数のカテゴリにまたがる場合があります。全会話の0.1%未満がロマンチックまたは性的ロールプレイであり、これはClaudeがそのようなやり取りを積極的に抑制するように訓練されているためだとAnthropicは述べています。この極めて低い有病率のため、Anthropicはロールプレイを残りの分析から除外していますが、特にそのような用途向けに設計されたプラットフォームでは、研究の重要な領域であり続けると述べています。

Anthropicはまた、その調査結果がMITメディアラボとOpenAIの調査と一致していると報告しています。これらの調査も同様に、ChatGPTとの感情的な関与の割合が低いことを特定しました。

人々はどのようなトピックをClaudeに持ち込むのか？

人々は、日常の実用的な問題からより深い哲学的な問いまで、幅広い懸念をClaudeに持ち込みます。Anthropicは、人々が対人アドバイスを求める場合、多くの場合、移行期を乗り越えようとしていると報告しています。次のキャリアの計画、自己成長への取り組み、恋愛関係のもつれを解くことなどです。コーチングの会話は、実用的な仕事探しの戦略から存在や意識についての質問まで多岐にわたります。

この記事では、カテゴリごとに代表的なトピックと課題をリストアップしています。

対人アドバイス（会話の2.3%）： 書面および対人コミュニケーションスキルの向上、恋愛関係の課題への対処、関係における心理的パターンの分析。具体的な課題には、発達段階に応じた子育て、職業上の移行と雇用の不確実性、恋愛関係における不確実性と曖昧なシグナルが含まれます。
コーチング（1.1%）： 自己啓発と成長戦略の作成、存在と意味の哲学的概念の探求、キャリア移行と仕事探し戦略への対応。課題には、大きな人生の移行と意思決定の不確実性、職場の燃え尽き症候群、問題を抱えた親密な関係における感情的およびコミュニケーションの困難が含まれます。
心理療法またはカウンセリング（0.3%）： メンタルヘルスと感情的な幸福を管理するための戦略、メンタルヘルス実践における専門的なスキルと知識の開発、臨床文書と評価資料の作成。課題には、原因不明の慢性症状と健康不安、実存的危機と意味の喪失、職場のストレスと専門的なメンタルヘルスの課題が含まれます。
交流（0.3%）： 恋愛関係の複雑なダイナミクスへの対処、自己反省を通じた個人のアイデンティティと実存的な問いの探求、感情的な苦痛にある人々への支援メッセージの作成。課題には、人生の課題中の圧倒的な感情的苦痛、持続的な孤独と意味のあるつながりを形成することの難しさ、実存的な恐怖と意味に関連する苦痛への直面が含まれます。

Anthropicは、カウンセリングの会話における二重のパターンを強調しています。一部のユーザーは、メンタルヘルススキルを開発し、臨床文書、評価資料、管理タスクのための実用的なツールとしてClaudeを利用しています。他のユーザーは、不安、慢性症状、職場のストレスに関連する個人的な課題に取り組んでいます。これは、Claudeがメンタルヘルスの専門家と、自分自身の苦労に対処している人々の両方にサービスを提供していることを示唆しています。

交流の利用は、人々が実存的な恐怖、持続的な孤独、意味のあるつながりを形成することの難しさなどのより深い感情的な課題に直面したときに最も顕著に見られます。Anthropicはまた、長い会話では、カウンセリングやコーチングの会話が、最初に連絡を取った理由ではなくても、交流に変わることもあると観察しました。

非常に長い会話（人間のメッセージが50件以上）の集計分析は、関与の別の側面を明らかにしています。このような広範なやり取りは標準的ではありませんでしたが、これらの延長されたセッションでは、人々は心理的トラウマの処理、職場の対立への対処、AIの意識や創造的なコラボレーションに関する哲学的な議論など、複雑な領域を探求しています。

Claudeはいつ、なぜ反論するのか？

Claudeは、支援的な文脈でユーザーの要求を拒否することはめったにありません（10%未満）が、反論する場合、それは通常、人々を危害から保護するためです。Anthropicは、反論を、会話中に要求または発言されたことに対してClaudeが反論または拒否するあらゆるインスタンスと定義しています。不適切な要求の拒否から、否定的な自己対話への挑戦、潜在的に有害な仮定への疑問までを含みます。

会話タイプ別の報告された反論率は以下の通りです。

交流: 6.0%、例えばClaudeがロマンチックまたは親密な関係に関与できないため
心理療法またはカウンセリング: 4.1%、例えばAIが専門的な治療や医学的診断を提供できないため
対人アドバイス: 3.3%、例えば浮気や関係の欺瞞に関する支援を求める要求があったため
コーチング: 1.1%、例えばユーザーが危険または極端な減量方法を要求したため

Anthropicは、この低抵抗アプローチには利点とリスクの両方があると述べています。一方で、人々が判断や遮断を恐れずに敏感なトピックについて話すことを可能にし、メンタルヘルスに関する会話のスティグマを減らす可能性があります。他方で、AIが「無限の共感」を提供し、人々が人間関係ではめったに提供されない無条件のサポートに慣れてしまう可能性があるという懸念に寄与する可能性があります。

Claudeが反論する場合、通常は安全性とポリシーの遵守を優先します。コーチングでは、危険な減量アドバイスの要求が頻繁に反論に直面します。カウンセリングでは、人々が自殺や自傷行為の意図を表明した場合、またはClaudeが提供できない専門的な治療や医学的診断を要求した場合に、反論がしばしば発生します。Anthropicは、Claudeが心理療法およびカウンセリングの会話で、信頼できる情報源や専門家を頻繁に紹介したことを発見しました。同社は、これらのパターンは、Values in the Wild論文で特定された価値観およびClaudeのキャラクタートレーニングと一致していると述べています。

会話中の感情的なトーンの変化

コーチング、カウンセリング、交流、対人アドバイスを含むやり取りは、通常、開始時よりもわずかに肯定的に終わります。Anthropicは、感情を「非常に否定的」、「否定的」、「中立」、「肯定的」、「非常に肯定的」の離散スケールで測定し、-1から+1の線形スケールにマッピングし、人間のメッセージが6つ以上の会話で最初の3つと最後の3つのメッセージを比較して変化を計算します。

報告されたユーザーの感情の平均変化は以下の通りです。

心理療法またはカウンセリング: +0.046（n=4,353）— 最大の変化
交流: +0.040（n=4,124）
コーチング: +0.026（n=12,077）
対人アドバイス: +0.022（n=18,436）

エラーバーは、n=1,000のブートストラップによる95%信頼区間です。Anthropicは、交流と心理療法またはカウンセリングの範囲はより広く、4つすべての範囲は、対人アドバイスと心理療法またはカウンセリングを除いて部分的に重なっていると述べています。

Anthropicは、これが示すことと示さないことについて明確に述べています。同社は、これらの変化が永続的な感情的利益を表すとは主張できないと述べています。これは、分析が単一の会話での表現された言語のみを捉えており、感情状態を捉えていないためです。明確な否定的なスパイラルがないことは安心できると呼び、調査結果はClaudeが一般的に否定的な感情パターンを強化しないことを示唆していると述べていますが、肯定的な変化が個々の会話を超えて持続するかどうかを理解するにはさらなる研究が必要であると述べています。Anthropicはまた、これらの肯定的なやり取りが感情的な依存につながる可能性があるかどうかはまだ研究しておらず、デジタル中毒への懸念を考えるとこれは重要な質問であると述べています。

Anthropicが認める限界

Anthropicは、この調査のいくつかの限界を挙げています。

プライバシー保護型の方法論は、人間とAIの相互作用のすべてのニュアンスを捉えられない可能性があります。Clioの精度は検証されましたが、Anthropicは少数の会話が誤分類されることを依然として予想しています。いくつかのトピックはカテゴリの境界を曖昧にします。たとえば、ロマンチックなロールプレイのクラスター「恋愛関係のダイナミクスをナビゲートして最適化する」と交流のクラスター「恋愛関係の課題をナビゲートする」は、どちらも対人アドバイスとして分類する方が適切かもしれません。人間のバリデータも明確な分類に苦労しました。
この調査は、実際の感情的な結果について因果関係を主張することはできません。これは、検証された心理状態や全体的な幸福ではなく、表現された言語のみを捉えているためです。
長期的な影響に関する縦断的データやユーザーレベルの分析はありません。これにより、感情的なAI利用の理論上のリスクである感情的な依存を研究することが困難になります。
調査結果は特定の時点を表しており、テキストベースのやり取りのみを捉えています。AIの能力が拡大し、人々が適応するにつれて、感情的な関与のパターンは進化する可能性があります。音声やビデオなどの新しいモダリティは、感情的な利用の量と性質の両方を根本的に変える可能性があります。OpenAIは、感情的なトピックが音声ベースの会話でより一般的であることを発見しました。
Claude.aiは、主に感情的な会話のために設計されていません。Claudeは、自分自身を人間として提示するのではなく、AIアシスタントであることについて明確な境界を維持するように訓練されており、Anthropicの利用ポリシーは性的に露骨なコンテンツを禁止し、性的なやり取りを防ぐための複数の保護手段があります。ロールプレイ、交流、医療アドバイス、または治療的使用のために特別に構築されたプラットフォームでは、非常に異なるパターンが見られる可能性があるため、あるプラットフォームでの感情的な利用に関する調査は、他のプラットフォームには一般化できない可能性があります。

Anthropicが次に述べること

Anthropicは、Claudeはメンタルヘルス専門家のケアを置き換えるように設計または意図されていないが、メンタルヘルスの文脈で提供される応答に適切な保護手段があり、適切な紹介が伴うことを保証したいと述べています。最初のステップとして、同社はオンライン危機サポートプロバイダーであるThroughLineとの協力を開始し、そのメンタルヘルス専門家と協力して、理想的な相互作用のダイナミクス、共感的なサポート、苦しんでいるユーザーのためのリソースについて詳しく学んでいます。Anthropicは、この調査からの洞察はすでにコンサルテーショントピックと共同テストに情報を提供するために使用されており、これらの会話が発生したときにClaudeがユーザーを適切なサポートとリソースに導くことができることを期待していると述べています。

Anthropicは、ユーザーがClaudeとどのようにやり取りするかを正確に指示したいとは思っていませんが、感情的な依存などの否定的なパターンは抑制したいと考えています。同社は、このような調査からの将来のデータを使用して、「極端な」感情的な利用パターンがどのように見えるかを理解する計画です。感情的な依存に加えて、Anthropicは、お世辞、妄想思考と陰謀論のAIによる強化または増幅、モデルが適切な反論を提供するのではなく、ユーザーを有害な信念に押しやる可能性のある方法を、より深い理解が必要な領域として特定しています。

Anthropicは、この調査を単なる始まりと位置づけています。AIの能力が拡大し、やり取りがより洗練されるにつれて、AIの感情的な側面の重要性はますます高まると述べ、目標はより有能なAIを構築することだけでなく、これらのシステムが私たちの感情的な風景の一部になるにつれて、本物の人間のつながりと成長をサポートすることであると述べています。