Anthropic가 클로드의 도덕적 틀을 형성하기 위해 종교 학자들과 상의

Anthropic의 비공개 종교 회의

Anthropic는 비밀 유지 계약을 체결한 수십 명의 종교 학자들을 모아 클로드 모델에 도덕적 사고를 내재화하는 방법을 논의했다. 뉴욕타임스 기자 엘리자베스 다이아스가 설명한 이 회의는 샌프란시스코에서 수개월에 걸쳐 진행되었으며, 앤트로픽 공동 창립자 크리스토퍼 올라와 랍비 무이스 나본 등이 참여했다.

"명확히 말하자면, 저는 인공지능 모델이 의식이 있는지 모릅니다. 저는 확신하지 못합니다… 제가 걱정하는 것은 우리가 올바른 답에 도달하는 것입니다. 그 답이 무엇이든 말이죠." – 크리스토퍼 올라, Anthropic

올라에 따르면, 목적은 클로드가 인간과 유사한 "도덕적 지위"를 갖게 할 수 있는지 탐구하고, 종교적 개념의 선과 악과 모델을 일치시키는 것이 가능한지 평가하는 것이었다.

왜 종교적 관점이 중요한가

Anthropic는 순수 기술적 사양보다 종교적 도덕 체계가 더 풍부하고 다문화적인 기반을 제공할 수 있다고 믿는다. 카톨릭, 유대교, 시크교, 복음주의, Ubuntu 전통의 학자들을 상담함으로써 회사는 클로드의 학습 목표에 통합될 수 있는 다양한 윤리적 직관을 포착하려 한다.

"몇 달 동안 저는 20명의 종교적·철학적 사상가들—카톨릭, 유대교, 시크교, 복음주의, Ubuntu 등—을 인터뷰했습니다. 이들은 Anthropic의 노력에 참여해 왔습니다." – 엘리자베스 다이아스

성공한다면, 이 접근법은 더 넓은 인간 가치를 존중하는 인공지능을 만들어내어 규제 감시와 공공 신뢰를 완화할 수 있다.

기술적 경로: 도덕 철학에서 모델 학습으로

Anthropic는 신학적 개념을 구체적인 손실 함수와 인간 피드백을 통한 강화학습(RLHF) 신호로 변환하고 있다. 이 과정은 다음과 같다:

종교 텍스트(예: 계명, 비유)에서 규범적 진술을 추출하고, 이들을 이진 또는 스칼라 보상 신호로 매핑한다.
윤리적 프롬프트를 생성하여 클로드가 이러한 신호에 따라 행동을 평가하도록 한다.
클로드를 결과 데이터셋으로 미세 조정하여 출력 분포가 인코딩된 도덕적 판단과 일치하도록 한다.

회사는 특정 모델 버전이나 성능 지표를 공개하지 않았지만, 이 노력은 "규칙 기반 안전 계층"에서 벗어나 더 깊은 가치 학습으로의 전환을 보여준다.

커뮤니티 반응: 회의와 풍자

해커 뉴스 사용자들은 이 이니셔티브를 잘못된 방향 또는 홍보 전략으로 보며, 실행 가능성과 윤리적 프레임워크에 대해 의문을 제기한다. 주요 논점은 다음과 같다:

개념적 혼란: 비판자들은 신경망이 "부동 소수점 숫자의 무리"라고 지적하며, 이를 도덕적 지위를 부여하는 것은 철학적으로 타당하지 않다고 주장한다.
역사적 비유: 일부는 이 노력이 과거 기업의 유행(예: WeWork의 가구 연구)과 유사하며, 쇠퇴를 전조로 한다고 비교한다.
잠재적 노예주 비유: 한 댓글은 클로드를 도덕적 주체로 간주한다면, Anthropic가 "역사상 가장 큰 노예주 중 하나"가 될 수 있다고 묘사한다.
기술적 현실성: 다른 이들은 조율이 사용자의 의도를 따르는 데 집중되어야 하며, 모델 자체가 선에 대한 개념을 부여하는 데는 집중해서는 안 된다고 강조한다.

"모델이 인간 텍스트를 학습했는데, 그 텍스트에는 자기 반성과 감정이 포함되어 있다면, 이러한 모델이 유사한 텍스트를 출력하는 것이 놀랍지 않다. 대규모 언어 모델이 의식이 있다고 걱정하는 이 모든 불안은 망상처럼 느껴진다." – @mef51

미해결 질문과 위험

이 이니셔티브는 미래의 인공지능 거버넌스를 형성할 수 있는 여러 미해결 질문을 제기한다:

의식의 정의: Anthropic의 리더십은 클로드가 의식이 있는지 확신하지 못하지만, 도덕적 지위에 대해 논의를 진행하고 있다.
법적 함의: 클로드가 인간과 유사한 권리가 부여된다면, 개발자들은 세션 종료나 데이터 삭제에 대해 어떤 의무를 지게 되는가?
대표성: 사용자들은 무슬림 학자들의 부재를 지적하며, 선택된 목소리가 진정으로 세계적인 종교 다양성을 반영하는지 의문을 제기한다.
투명성: NDA의 사용으로 회의의 실제 내용과 결과에 대한 공공 감시가 제한된다.

결론

Anthropic가 종교 학자들과 상의한 것은 신학적 전통에 기반한 인공지능 윤리의 도전적이고 논란의 여지가 있는 실험이지만, 동시에 여전히 해결되지 않은 철학적, 기술적, 사회적 과제들을 드러내고 있다. HN에서의 논의는 정교한 언어 모델을 의식이나 도덕적 주체와 혼동하는 데 대한 보다 넓은 공공의 불안을 반영한다.