Anthropic, AI의 사회적 영향을 다루기 위한 '어려운 질문(Hard Questions)' 이니셔티브 출시

Anthropic은 첨단 AI의 사회적, 경제적, 윤리적 영향에 관한 대중의 가장 어려운 질문들에 대한 답변을 요청하고 이를 공개적으로 추적하기 위한 새로운 이니셔티브를 시작했습니다. 이 노력은 회사의 AI 모델 개발이 공익과 공익법인(Public Benefit Corporation)으로서의 사명에 부합하도록 보장하기 위해 설계되었습니다.

대중 참여 및 '어려운 질문' 이니셔티브

Anthropic은 AI가 일자리, 사회, 가족에 미치는 영향뿐만 아니라 AI가 과학과 의학을 발전시킬 잠재력에 관한 '어려운 질문'을 제출하도록 대중을 명시적으로 초대하고 있습니다. 회사는 이러한 질문들에 대응하기 위해 취하는 구체적인 조치를 공개적으로 추적하고 보고할 것을 약속했으며, 여기에는 명시된 목표에 미치지 못할 수 있는 분야에 대해 투명하게 공개하는 것도 포함됩니다.

공익을 위한 기존 프레임워크

공익법인으로서 Anthropic의 사명은 첨단 AI 모델의 이점을 확보하는 동시에 그 위험을 완화하는 것입니다. 회사는 이 사명을 지원하기 위해 여러 구조적 및 연구 기반의 안전장치를 구현했습니다:

• The Anthropic Institute: AI가 사회에 제기하는 가장 중대한 도전 과제에 맞서는 데 전념하는 연구 노력입니다.
• The Long-Term Benefit Trust: 회사가 공익 사명을 효과적으로 추진할 수 있도록 공정하고 중립적인 감독을 제공하는 기구입니다.
• AI Safeguards: 오용 위험을 줄이기 위한 안전장치에 대한 지속적인 투자와 모델을 유익한 목표에 맞추기 위한 모델의 행동 및 내부 작동 방식(interpretability)에 대한 연구입니다.
• Community Programs: 과학자들에게 AI 모델을 무료로 제공하고, 초기 경력의 Claude 사용자들을 비영리 단체와 연결하는 펠로우십 프로그램을 시작했습니다.

대중의 정서에 대한 데이터 기반 통찰력

공익에 대한 접근 방식을 결정하기 위해, Anthropic은 AI 사용자 및 비사용자의 희망과 우려를 이해하기 위한 광범위한 연구를 수행했습니다:

• Anthropic Public Record: AI 기술에 대한 미국인 52,000명의 희망과 우려에 관한 공개 설문조사입니다.
• Claude User Surveys: Anthropic Interviewer를 통해 159개국 70개 언어로 81,000명의 Claude 사용자를 대상으로 진행한 인터뷰입니다.
• Qualitative Research: AI의 업무와 전통에 영향을 받는 그룹들과의 수십 차례의 대면 포커스 그룹 및 소집 세션입니다.
• Real-World Data: 경제적 영향을 이해하기 위해 익명화된 실제 데이터를 통해 Claude의 사용 사례를 연구합니다.