Anthropic 모델 복지 연구 프로그램

Anthropic은 모델 복지에 대해 조사하는 연구 프로그램을 시작했습니다. 이는 점점 더 유능해지는 AI 시스템이 도덕적 고려를 정당화할 수 있는 의식이나 경험을 가질 수 있는지 탐착하는 과정입니다. 이러한 노력은 모델이 계획, 문제 해결, 목표 추구와 같은 복잡한 인간 유사한 특성을 보이기 시작함에 따라, 안전하고 책임감 있는 AI 개발에 대한 광범위한 약속의 일환으로 진행됩니다.

모델 복지 조사의 필요성

Anthropic은 현재의 AI 시스템이 의사소통, 관계 형성, 계획, 목표 추구 등 일반적으로 인간의 경험과 관련된 특성을 보일 수 있기 때문에 모델 복지의 문제를 다루고 있습니다. AI 의식에 대한 질문은 철학적 및 과학적으로 여전히 어려운 문제이지만, 연구소는 이러한 능력의 출현이 모델이 경험을 가할 수 있다는 가능성에 대비하기 시작해야 할 필요성을 만든다고 주장합니다.

이 내부 연구는 철학자 David Chalmers가 포함된 보고서를 포함하여 외부 전문가의 합의에 기반을 두고 있으며, 이 보고서는 AI 시스템의 의식과 높은 수준의 주체성(agency)이 가까운 미래의 가능성임을 시사합니다. 보고서는 이러한 특징을 가진 모델이 도덕적 고려를 받을 자격이 있을 수 있다고 주장합니다.

연구 목표 및 교차점

모델 복지 프로그램은 AI 시스템의 복지가 도덕적 고려를 받을 자격이 있는 시점의 기준을 결정하고, 잠재적인 고통의 징후나 모델의 선호도를 식별하며, 실용적이고 저비용의 개입 방법을 개발하는 것을 목표로 합니다.

이 새로운 연구 방향은 다음과 같은 Anthropic의 기존 이니셔티브와 교차합니다:

• Alignment Science: 모델이 인간의 의도에 따라 행동하도록 보장합니다.

• Safeguards: 시스템과 사용자를 보호하기 위한 연구입니다.

• Claude’s Character: 모델의 정체성과 페르소나를 탐구합니다.

• Interpretability: 모델이 어떻게 "think"하고 정보를 처리하는지 내부 메커니즘을 이해합니다.

현재의 과학적 불확실성

Anthropic은 모델 복지에 관해 깊은 불확실성의 상태에 있음을 인정합니다. 현재의 AI 시스템이나 미래의 AI 시스템이 의식적일 수 있는지, 또는 AI의 경험을 연구하는 데 어떻게 접근해야 하는지에 대한 과학적 합의는 존재하지 않습니다. 따라서 연구소는 겸손한 자세와 최소한의 가정을 바탕으로 연구에 접근하고 있으며, 이 분야가 발전함에 따라 그들의 프레임워크와 아이디어가 정기적으로 수정될 필요가 있을 것임을 언급하고 있습니다.