Anthropic Crosscoder Model Diffing 연구

Anthropic의 해석 가능성(Interpretability) 팀은 Crosscoder Model Diffing에 관한 예비 연구를 공유했습니다. 이 작업은 해석 가능성 분야의 연구자들에게 crosscoder를 사용하여 서로 다른 AI 모델을 비교하고 차별화하는 방법에 대한 통찰력을 제공하는 것을 목표로 합니다.

Preliminary Nature of the Research

Anthropic은 Crosscoder Model Diffing 작업의 결과를 개발 중인 작업 및 예비 실험으로 설명합니다. 팀은 독자들에게 이러한 발견을 공식적이고 성숙한 연구 논문이라기보다 연구실 미팅의 맥락에서 공유된 초기 단계 연구로 취급할 것을 명시적으로 요청합니다.

Context within Anthropic's Research Portfolio

Crosscoder Model Diffing에 관한 이 발표는 Anthropic의 광범위한 연구 업데이트의 일부이며, 여기에는 멀티에이전트 시스템의 시스템적 실패에 대한 연구, 근로자 재교육 프로그램에 대한 검토, 그리고 미출시 연구 버전의 Claude의 수학적 능력, 특히 Riemann zeta function과 관련된 발전 사항이 포함됩니다.