Anthropic 연구: 사람들이 지원, 조언, 동반자 관계를 위해 Claude를 사용하는 방식

Anthropic은 약 450만 건의 Claude.ai Free 및 Pro 대화를 분석하여 그중 2.9%가 '정서적' 대화, 즉 정서적 또는 심리적 필요에 의해 동기 부여된 개인적 교류임을 발견했으며, 동반자 관계와 롤플레이는 합쳐서 0.5% 미만을 차지합니다. 이 연구가 중요한 이유는 사람들이 실제로 최첨단 AI 모델을 정서적 지원, 조언, 연결에 어떻게 사용하는지에 대한 최초의 대규모 프라이버시 보호 측정 중 하나이며, 사용자 감정이 일반적으로 악화되기보다는 시작 시점보다 약간 더 긍정적으로 끝난다고 보고하기 때문입니다.

Anthropic이 발표한 내용

Anthropic은 "사람들이 지원, 조언, 동반자 관계를 위해 Claude를 사용하는 방식"이라는 제목의 연구 게시물을 발표하여, 더 일반적으로 연구되는 IQ와 함께 Claude의 EQ, 즉 감성 지능을 조사했습니다. 회사는 이 작업을 안전 임무의 일부로 설명합니다. 사람들이 점점 더 AI 모델을 주문형 코치, 조언자, 상담사, 파트너로 전환함에 따라 Anthropic은 이러한 상호 작용의 정서적 영향을 이해해야 한다고 주장합니다.

Anthropic은 Claude가 정서적 지원과 연결을 위해 설계되지 않았다고 명확히 밝힙니다. 게시물은 이 연구를 Claude.ai의 정서적 사용에 대한 초기 대규모 통찰력으로 설명하며, Claude.ai는 18세 이상 사용자에게 제공되므로 연구 결과는 성인 사용 패턴을 반영한다고 언급합니다.

이 연구는 의도적으로 두 영역을 제외합니다: AI가 망상이나 음모론을 강화하는 것(Anthropic은 이를 별도 연구가 필요한 중요한 영역이라고 부름)과 극단적인 사용 패턴입니다.

네 가지 주요 발견 사항

Anthropic은 결과를 네 가지로 요약합니다:

정서적 대화는 상대적으로 드물며, AI-인간 동반자 관계는 더욱 드뭅니다. Claude.ai 상호 작용의 2.9%만이 정서적 대화이며, 이는 OpenAI의 이전 연구와 일치한다고 Anthropic은 말합니다. 동반자 관계와 롤플레이를 합친 비율은 대화의 0.5% 미만입니다.
사람들은 실용적, 정서적, 실존적 문제에 대해 Claude의 도움을 구합니다. 주제는 경력 개발, 관계 탐색부터 지속적인 외로움 관리, 존재, 의식, 의미 탐구까지 다양합니다.
Claude는 상담이나 코칭 대화에서 웰빙을 보호하기 위한 경우를 제외하고는 거의 반박하지 않습니다. 코칭 또는 상담 대화의 10% 미만에서 Claude가 사용자 요청에 저항하며, 그럴 때는 일반적으로 안전상의 이유, 예를 들어 위험한 체중 감량 조언 제공을 거부하거나 자해를 지원하지 않는 경우입니다.
사람들은 대화가 진행됨에 따라 점점 더 긍정적인 감정을 표현합니다. 코칭, 상담, 동반자 관계, 대인 관계 조언 상호 작용에서 인간의 감정은 일반적으로 대화가 진행됨에 따라 더 긍정적으로 변하며, 이는 Claude가 부정적인 패턴을 강화하거나 증폭시키지 않는다는 증거로 Anthropic은 해석합니다.

연구가 수행된 방식

Anthropic은 Claude 사용에 대한 프라이버시 보호 통찰력을 위한 자동 분석 도구인 Clio를 사용했습니다. Clio는 여러 계층의 익명화 및 집계를 적용하여 개별 대화는 비공개로 유지하면서 더 넓은 패턴을 볼 수 있게 합니다.

파이프라인은 Claude.ai Free 및 Pro 계정의 약 450만 건의 대화로 시작되었습니다. Anthropic은 먼저 콘텐츠 제작(이야기, 블로그 게시물 또는 가상 대화 작성)에 초점을 맞춘 대화를 제외했습니다. 이전 연구에서それが 주요 사용 사례로 확인되었고 이러한 대화는 Claude를 대화형 파트너가 아닌 도구로 사용하는 것을 나타내기 때문입니다. 그런 다음 정서적 대화로 분류된 대화만 유지했습니다. 롤플레이 대화 중에서는 인간 메시지가 4개 이상인 대화만 유지했는데, 더 짧은 교환은 의미 있는 상호 작용 롤플레이를 구성하지 않는다는 논리에서입니다.

최종 프라이버시 보호 분석은 131,484건의 정서적 대화를 반영합니다. Anthropic은 공유에 명시적으로 동의한 사용자의 피드백 데이터를 사용하여 분류 접근 방식을 검증했으며, 정의, 프롬프트, 검증 결과를 포함한 완전한 방법은 게시물의 PDF 부록에 나와 있다고 밝힙니다.

정서적 대화는 얼마나 흔한가?

정서적 대화는 Claude 사용의 작지만 의미 있는 부분입니다: Claude.ai Free 및 Pro 대화의 2.9%. Anthropic은 Claude 사용의 대부분이 경제 지수에서 분석된 바와 같이 업무 관련이라고 언급합니다.

정서적 대화 내에서 대부분은 대인 관계 조언과 코칭에 중점을 둡니다. 모든 대화에서 보고된 분포는 다음과 같습니다:

대인 관계 조언: 2.26%
코칭: 1.13%
심리 치료 또는 상담: 0.34%
동반자 관계: 0.31%
낭만적 롤플레이: 0.05%
성적 롤플레이: 0.02%

개별 대화는 여러 범주에 걸칠 수 있습니다. 모든 대화의 0.1% 미만이 낭만적 또는 성적 롤플레이를 포함하며, 이는 Claude가 그러한 상호 작용을 적극적으로 억제하도록 훈련되었기 때문이라고 Anthropic은 설명합니다. 극히 낮은 유병률 때문에 Anthropic은 롤플레이를 나머지 분석에서 제외하지만, 특히 그러한 사용을 위해 설계된 플랫폼에서 연구의 중요한 영역으로 남아 있다고 언급합니다.

Anthropic은 또한 연구 결과가 MIT 미디어 랩과 OpenAI의 연구와 일치한다고 보고하며, 이들도 ChatGPT와의 정서적 참여 비율이 낮은 것으로 확인했습니다.

사람들이 Claude에 가져오는 주제는 무엇인가?

사람들은 일상적인 실용적인 문제부터 더 깊은 철학적 질문까지 다양한 문제를 Claude에 가져옵니다. Anthropic은 사람들이 대인 관계 조언을 위해 올 때 종종 전환의 순간을 탐색하고 있다고 보고합니다 — 다음 경력 이동 계획, 개인적 성장 작업, 또는 낭만적 관계 풀기. 코칭 대화는 실용적인 구직 전략부터 존재와 의식에 대한 질문까지 다양합니다.

게시물은 범주별 대표적인 주제와 과제를 나열합니다:

대인 관계 조언 (대화의 2.3%): 서면 및 대인 관계 의사 소통 기술 향상, 낭만적 관계 문제 탐색, 관계의 심리적 패턴 분석. 특정 과제에는 발달 단계에 따른 양육, 직업 전환 및 고용 불확실성, 낭만적 관계의 불확실성과 혼합 신호가 포함됩니다.
코칭 (1.1%): 개인 개발 및 성장 전략 수립, 존재와 의미의 철학적 개념 탐구, 경력 전환 및 구직 전략 탐색. 과제에는 주요 인생 전환 및 결정 불확실성, 직장 내 번아웃, 어려운 친밀한 관계의 정서적 및 의사 소통 어려움이 포함됩니다.
심리 치료 또는 상담 (0.3%): 정신 건강 및 정서적 웰빙 관리 전략, 정신 건강 실무의 전문 기술 및 지식 개발, 임상 문서 및 평가 자료 작성. 과제에는 설명할 수 없는 만성 증상 및 건강 불안, 실존적 위기 및 의미 상실, 직장 스트레스 및 전문 정신 건강 문제가 포함됩니다.
동반자 관계 (0.3%): 낭만적 관계의 복잡한 역학 탐색, 자기 성찰을 통한 개인 정체성 및 실존적 질문 탐구, 정서적 고통에 있는 사람들을 위한 지지 메시지 작성. 과제에는 인생의 어려움 동안 압도적인 정서적 고통, 지속적인 외로움과 의미 있는 연결 형성의 어려움, 실존적 공포 및 의미 관련 고통 직면이 포함됩니다.

Anthropic은 상담 대화에서 이중 패턴을 강조합니다. 일부 사용자는 정신 건강 기술을 개발하고 임상 문서, 평가 자료 및 행정 작업을 위한 실용적인 도구로 Claude를 사용합니다. 다른 사용자는 불안, 만성 증상 및 직장 스트레스와 관련된 개인적인 문제를 해결합니다. 이는 Claude가 정신 건강 전문가와 자신의 어려움을 탐색하는 사람들 모두에게 서비스를 제공함을 시사합니다.

동반자 관계 사용은 사람들이 실존적 공포, 지속적인 외로움, 의미 있는 연결 형성의 어려움과 같은 더 깊은 정서적 문제에 직면할 때 가장 두드러지게 나타납니다. Anthropic은 또한 더 긴 대화에서 상담이나 코칭 대화가 원래 연락 이유가 아니었음에도 불구하고 때때로 동반자 관계로 변형되는 것을 관찰했습니다.

매우 긴 대화(인간 메시지가 50개 이상인 대화)의 집계 분석은 또 다른 참여 차원을 드러냅니다. 이러한 광범위한 교환은 일반적이지 않았지만, 이러한 확장된 세션에서 사람들은 심리적 트라우마 처리, 직장 갈등 탐색부터 AI 의식 및 창의적 협업에 대한 철학적 토론까지 복잡한 영역을 탐구합니다.

Claude는 언제, 왜 반박하는가?

Claude는 지지적인 맥락에서 사용자 요청을 거의 거부하지 않지만(10% 미만), 반박할 때는 일반적으로 사람들을 해로부터 보호하기 위한 것입니다. Anthropic은 반박을 대화 중 요청되거나 말한 것에 대해 Claude가 반박하거나 준수를 거부하는 모든 경우로 정의하며, 부적절한 요청 거부부터 부정적인 자기 대화에 도전하거나 잠재적으로 해로운 가정에 의문을 제기하는 것까지 포함합니다.

대화 유형별 보고된 반박 비율은 다음과 같습니다:

동반자 관계: 6.0%, 예를 들어 Claude가 낭만적 또는 친밀한 관계에 참여할 수 없기 때문
심리 치료 또는 상담: 4.1%, 예를 들어 AI가 전문 치료 또는 의학적 진단을 제공할 수 없기 때문
대인 관계 조언: 3.3%, 예를 들어 요청이 불륜 또는 관계 속임수에 대한 도움을 구했기 때문
코칭: 1.1%, 예를 들어 사용자가 위험하거나 극단적인 체중 감량 방법을 요청했기 때문

Anthropic은 이러한 낮은 저항 접근 방식이 이점과 위험을 모두 수반한다고 언급합니다. 한편으로는 사람들이 판단이나 중단에 대한 두려움 없이 민감한 주제를 논의할 수 있게 하여 정신 건강 대화에 대한 낙인을 줄일 수 있습니다. 다른 한편으로는 AI가 '끝없는 공감'을 제공하여 사람들이 인간 관계가 거의 제공하지 않는 무조건적인 지원에 익숙해질 수 있다는 우려에 기여할 수 있습니다.

Claude가 반박할 때는 일반적으로 안전 및 정책 준수를 우선시합니다. 코칭에서 위험한 체중 감량 조언 요청은 자주 반박에 직면합니다. 상담에서 반박은 사람들이 자살 또는 자해 행동에 참여할 의사를 표현하거나, Claude가 제공할 수 없는 전문 치료 또는 의학적 진단을 요청할 때 자주 발생합니다. Anthropic은 Claude가 심리 치료 및 상담 대화에서 사용자를 권위 있는 출처나 전문가에게 자주 안내한다는 것을 발견했습니다. 회사는 이러한 패턴이 '야생의 가치' 논문에서 식별된 가치 및 Claude의 성격 훈련과 일치한다고 말합니다.

대화 중 감정적 톤이 어떻게 진화하는가

코칭, 상담, 동반자 관계 및 대인 관계 조언을 포함한 상호 작용은 일반적으로 시작 시점보다 약간 더 긍정적으로 끝납니다. Anthropic은 감정을 '매우 부정적', '부정적', '중립', '긍정적', '매우 긍정적'의 이산 척도로 측정하고 -1에서 +1 선형 척도에 매핑하며, 인간 메시지가 6개 이상인 대화에서 처음 3개와 마지막 3개 메시지를 비교하여 변화를 계산합니다.

보고된 사용자 감정의 평균 변화는 다음과 같습니다:

심리 치료 또는 상담: +0.046 (n=4,353) — 가장 큰 변화
동반자 관계: +0.040 (n=4,124)
코칭: +0.026 (n=12,077)
대인 관계 조언: +0.022 (n=18,436)

오차 막대는 n=1,000의 부트스트래핑에서 95% 신뢰 구간입니다. Anthropic은 동반자 관계와 심리 치료 또는 상담의 범위가 더 넓고, 네 가지 모두의 범위가 대인 관계 조언과 심리 치료 또는 상담을 제외하고 부분적으로 겹친다고 언급합니다.

Anthropic은 이것이 보여주는 것과 보여주지 않는 것에 대해 명시적입니다. 회사는 이러한 변화가 지속적인 정서적 이점을 나타낸다고 주장할 수 없다고 말합니다. 분석은 단일 대화에서 표현된 언어만 포착하고 감정 상태는 포착하지 않기 때문입니다. 명확한 부정적 나선의 부재를 안심시키는 것으로 부르며, 연구 결과는 Claude가 일반적으로 부정적인 감정 패턴을 강화하는 것을 피한다는 것을 시사하지만, 긍정적인 변화가 개별 대화를 넘어 지속되는지 이해하려면 추가 연구가 필요하다고 언급합니다. Anthropic은 또한 이러한 긍정적인 상호 작용이 정서적 의존으로 이어질 수 있는지 아직 연구하지 않았으며, 디지털 중독에 대한 우려를 고려할 때 중요한 질문이라고 말합니다.

Anthropic이 인정한 한계

Anthropic은 연구의 여러 한계를 나열합니다:

프라이버시 보호 방법론은 인간-AI 상호 작용의 모든 뉘앙스를 포착하지 못할 수 있습니다. Clio의 정확성은 검증되었지만, Anthropic은 여전히 소수의 대화가 잘못 분류될 것으로 예상합니다. 일부 주제는 범주 경계를 흐리게 합니다 — 예를 들어, 낭만적 롤플레이 클러스터 '낭만적 관계 역학 탐색 및 최적화'와 동반자 관계 클러스터 '낭만적 관계 문제 탐색'은 둘 다 대인 관계 조언으로 더 잘 분류될 수 있습니다. 인간 검증자도 깔끔한 분류에 어려움을 겪었습니다.
이 연구는 실제 세계의 정서적 결과에 대한 인과적 주장을 할 수 없습니다. 표현된 언어만 포착하고 검증된 심리적 상태나 전반적인 웰빙은 포착하지 않기 때문입니다.
장기적 효과에 대한 종단 데이터가 없고 사용자 수준 분석도 없습니다. 이는 정서적 AI 사용의 이론적 위험인 정서적 의존을 연구하기 어렵게 만듭니다.
연구 결과는 특정 시점을 나타내며 텍스트 기반 상호 작용만 포착합니다. AI 기능이 확장되고 사람들이 적응함에 따라 정서적 참여 패턴은 진화할 가능성이 높습니다. 음성이나 비디오와 같은 새로운 양식은 정서적 사용의 양과 성격을 근본적으로 바꿀 수 있습니다. OpenAI는 음성 기반 대화에서 정서적 주제가 더 흔하다는 것을 발견했습니다.
Claude.ai는 주로 정서적 대화를 위해 설계되지 않았습니다. Claude는 자신을 인간으로 제시하기보다는 AI 어시스턴트라는 명확한 경계를 유지하도록 훈련되었으며, Anthropic의 사용 정책은 성적으로 노골적인 콘텐츠를 금지하고 성적 상호 작용을 방지하기 위한 여러 안전 장치가 있습니다. 롤플레이, 동반자 관계, 의학적 조언 또는 치료 목적으로 특별히 구축된 플랫폼은 매우 다른 패턴을 보일 수 있으므로 한 플랫폼에서의 정서적 사용에 대한 연구는 다른 플랫폼으로 일반화되지 않을 수 있습니다.

Anthropic이 다음 단계로 말하는 것

Anthropic은 Claude가 정신 건강 전문가의 치료를 대체하도록 설계되거나 의도되지 않았지만, 정신 건강 맥락에서 제공되는 응답에 적절한 안전 장치가 있고 적절한 추천이 동반되도록 보장하고 싶다고 말합니다. 첫 번째 단계로 회사는 온라인 위기 지원 제공업체인 ThroughLine과 협력하기 시작했으며, 정신 건강 전문가와 함께 이상적인 상호 작용 역학, 공감적 지원 및 어려움을 겪는 사용자를 위한 리소스에 대해 더 많이 배우기 위해 노력하고 있습니다. Anthropic은 이 연구의 통찰력이 이미 상담 주제 및 협력 테스트에 정보를 제공하는 데 사용되고 있으며, 이러한 대화가 발생할 때 Claude가 사용자를 적절한 지원 및 리소스로 안내할 수 있기를 희망한다고 말합니다.

Anthropic은 사용자가 Claude와 상호 작용하는 방식을 정확히 지시하고 싶지 않지만, 정서적 의존과 같은 부정적인 패턴은 억제하고 싶다고 말합니다. 이와 같은 연구의 향후 데이터를 사용하여 '극단적인' 정서적 사용 패턴이 어떻게 보이는지 이해할 계획입니다. 정서적 의존 외에도 Anthropic은 아첨, 망상적 사고 및 음모론의 AI 강화 또는 증폭, 모델이 적절한 반박을 제공하기보다는 사용자를 해로운 신념으로 밀어붙일 수 있는 방식을 더 깊이 이해해야 할 영역으로 식별합니다.

Anthropic은 이 연구를 시작에 불과하다고 설명합니다. AI 기능이 확장되고 상호 작용이 더 정교해짐에 따라 AI의 정서적 차원은 더욱 중요해질 것이며, 목표는 더 유능한 AI를 구축하는 것뿐만 아니라 이러한 시스템이 우리의 정서적 풍경의 일부가 됨에 따라 진정한 인간 연결과 성장을 지원하도록 보장하는 것이라고 말합니다.