Anthropic 연구: 사용자가 클로드를 어떻게 지원, 조언, 동반자로 활용하는가

Anthropic는 Claude.ai의 '정서적 사용'에 대한 초기 대규모 연구를 발표했으며, 정서적·심리적 참여는 비교적 드물지만, 일반적으로 부정적인 정서 패턴을 강화하지 않고 오히려 인간의 정서를 더 긍정적인 방향으로 전환한다는 점을 발견했다.

정서적 대화의 빈도

정서적 대화는 감정적 또는 심리적 필요에 기반한 동적이고 개인적인 교류로 정의되며, Claude.ai 무료 및 프로 사용자 간 상호작용의 2.9%를 차지한다. 이 결과는 OpenAI가 이전에 수행한 연구와 일치한다.

이 작은 정서적 사용 집단 내에서 분포는 다음과 같다:

인간관계 조언 및 코칭: 가장 흔한 정서적 참여 형태.
동반자 관계 및 역할극: 이 두 가지를 합쳐도 대화의 0.5% 미만을 차지한다.
로맨스 또는 성적 역할극: 전체 대화의 0.1% 미만을 차지하며, 이는 클로드가 이러한 상호작용을 억제하도록 훈련되었기 때문으로 설명된다.

사용자 주제와 참여 패턴

사용자들은 전환기적 삶의 순간에 다양한 정서적 및 실용적 필요를 위해 클로드를 활용한다.

일반적인 주제

인간관계 조언: 사용자들은 경력 전환, 개인 성장, 로맨스 관계를 다루는 데 도움을 요청하는 경우가 많다.
코칭: 실용적인 취업 전략부터 의식과 존재에 대한 철학적 질문까지 다양한 주제가 포함된다.
상담: 이 카테고리는 이중적인 패턴을 보인다. 정신건강 전문가들은 클로드를 행정 업무 및 임상 문서화에 사용하지만, 다른 사용자들은 불안, 직장 스트레스, 만성 증상에 대한 지원을 요청한다.
동반자 관계: 지속적인 외로움, 존재적 공포, 인간관계 형성의 어려움을 겪을 때 사용자들은 명시적으로 동반자를 찾는다.

상호작용의 깊이

50개 이상의 인간 메시지가 포함된 '마라톤 대화' 분석 결과, 사용자들은 심리적 외상 처리, 직장 내 갈등 해결, 인공지능 의식에 대한 논의와 같은 복잡한 영역을 더 깊이 탐구하는 것으로 나타났다.

모델의 저항과 안전성 반발

클로드는 지원적 맥락에서 사용자 요청을 거부하는 경우가 거의 없으며, 동반자 관계, 상담, 인간관계 조언, 코칭 대화 중 10% 미만에서만 반발이 발생한다.

클로드가 반발할 때는 일반적으로 안전성과 정책 준수를 우선시하기 때문이다. 예시로는:

코칭: 위험한 체중 감량 조언 제공 거부.
상담: 전문적인 의료 진단이나 치료 제공 거부, 자살 또는 자해 행동과 관련된 요청에 대한 저항.

이러한 경우 클로드는 사용자를 권위 있는 전문 자료로 안내하는 경우가 많다.

정서적 감정의 변화

정서적 대화 과정에서 인간의 감정은 일반적으로 더 긍정적으로 변화한다. 코칭, 상담, 동반자 관계, 인간관계 조언을 포함한 상호작용에서 사용자의 언어 표현은 대화 시작 시점에서 종료 시점으로 이어질수록 긍정적인 방향으로 변화한다.

Anthropic는 이 변화가 반드시 지속적인 정서적 이익이나 검증된 심리적 개선을 의미하지는 않지만, 클로드가 일반적으로 부정적인 피드백 루프를 생성하거나 해로운 정서 상태를 악화시키지 않는다는 점을 시사한다고 지적한다.

방법론과 한계

Anthropic는 약 450만 개의 대화를 분석하기 위해 Clio라는 개인정보 보호를 고려한 자동 분석 도구를 활용했다. 콘텐츠 생성 작업과 짧은 역할극 교환을 제외한 후 최종 분석은 131,484건의 정서적 대화를 기반으로 이루어졌다.

주요 한계

인과관계: 연구는 표현된 언어를 측정할 뿐 검증된 심리적 상태는 아니며, 실제 세계의 정서적 결과에 대해 인과적 주장은 할 수 없다.
장기적 데이터: 사용자 수준의 장기적 데이터 부족으로 인해 정서적 의존성과 같은 장기적 영향을 연구하기 어렵다.
모달리티: 본 연구는 텍스트 기반 상호작용만을 다루며, 음성 또는 영상 모달리티는 다른 정서적 사용 패턴을 유도할 수 있다.
디자인 목적: 클로드는 치료나 동반자 도구로 설계되지 않았기 때문에, 이러한 목적을 위해 특별히 설계된 플랫폼과의 결과를 일반화하기 어렵다.

미래 방향성

정신건강 맥락에서의 보호 장치를 개선하기 위해 Anthropic는 온라인 위기 지원 분야의 선도 기관인 ThroughLine과 협력하여 공감적 지원과 자원 안내를 정교화하고 있다. 향후 연구는 '극단적' 정서 사용 패턴, 정서적 의존성, 아첨, 인공지능이 환상적 사고나 음모론을 강화할 가능성 등을 탐색할 예정이다.