앤트로픽 인스티튜트 연구 계획

앤트로픽 인스티튜트(TAI)는 모델 개발 및 배포 데이터에 내부 접근할 수 있는 장점을 활용하여 프론트라인 AI 시스템의 사회적, 경제적, 보안적 영향을 조사하는 연구 이니셔티브입니다. TAI는 이러한 연구 결과를 공개함으로써 정부, 외부 기관, 일반 대중이 AI 개발에 대해 정보 기반의 결정을 내릴 수 있도록 돕는 것을 목표로 합니다.

핵심 연구 분야

TAI의 연구 계획은 강력한 AI의 배포로 인해 발생하는 특정한 위험과 기회를 다루기 위해 네 가지 주요 초점 영역으로 구성되어 있습니다.

경제적 확산

이 분야는 AI의 배포가 글로벌 경제에 어떤 영향을 미치는지, 그리고 이러한 변화가 공공의 이익을 어떻게 보장할 수 있는지에 초점을 맞춥니다. TAI는 앤트로픽 경제 지수를 활용하고 확장하여 노동 시장 영향과 AI 사용에 대한 고주파, 세부적인 데이터를 제공할 예정입니다.

주요 연구 주제는 다음과 같습니다:

• AI 채택: 글로벌 AI 접근성의 결정 요인, 기업의 기술 채택 방식, 그리고 AI가 이전의 '일반 목적 기술'과 유사한 패턴을 따르는지 조사합니다.
• 생산성과 성장: AI가 혁신 속도에 미치는 영향을 분석하고, 경제적 성과를 사전 또는 재분배하는 메커니즘을 탐색합니다.
• 노동 시장 영향: AI가 기존 업무를 자동화하는 방식, 새로운 일자리가 어떻게 생겨나는지, 그리고 전문가 양성에 전통적으로 사용되던 초급 업무를 AI가 흡수함으로써 '전문가 채널'이 어떻게 영향을 받는지 연구합니다.
• 근무 환경의 변화: AI가 근무의 중심성을 크게 감소시킬 경우 인간 삶에서 급여를 받는 일의 역할이 어떻게 변화할지, 그리고 사회가 이러한 전환을 어떻게 관리할지 탐구합니다.

위협과 회복력

TAI의 연구는 AI의 '이중 용도' 특성에 초점을 맞추며, 건강이나 교육을 개선하는 능력이 동시에 감시나 생물무기 개발을 가능하게 할 수 있다는 점을 다룹니다. 목표는 조기 경고 시스템을 개발하고 사회의 회복력을 강화하는 것입니다.

주요 연구 주제는 다음과 같습니다:

• 위험 평가: 억압에 대한 AI 사용을 탐지할 수 있는 관측 도구를 구축하고, 예측 가능한 위협(예: AI 강화 사이버 공격)의 위험을 시장 기반 접근법으로 가격화하는 방법을 개발합니다.
• 공격-방어 균형: AI가 사이버 및 생물학적 영역, 또는 지휘통제 시스템에서 공격자에게 구조적으로 이점을 제공하는지 분석합니다.
• 위기 완화: AI 시스템을 포함한 위기 상황에 대비한 지정학적 인프라(기업-국가 또는 기업-기업 간)를 계획합니다.
• 방어 메커니즘: AI 발전 속도(몇 달)와 규제 및 인프라 대응 속도(몇 년) 사이의 격차를 어떻게 줄일 수 있는지 탐색합니다.

실제 환경에서의 AI 시스템

이 영역은 인간, 조직, AI 시스템 간의 상호작용을 조사하며, 이러한 상호작용이 인간 행동과 기관 구조에 어떤 영향을 미치는지에 초점을 맞춥니다.

주요 연구 주제는 다음과 같습니다:

• 개인 및 사회적 영향: 공동 AI 사용이 신념과 문제 해결 방식에 미치는 영향을 다루는 '집단 인식론'과, AI 판단에 대한 맹목적 신뢰로 인한 인간 비판적 사고 능력 저하를 연구합니다.
• 인간-AI 관리: 인간이 인간과 AI가 혼합된 팀을 어떻게 관리하는지, 그리고 반대로 AI가 인간 팀을 어떻게 관리하는지 연구합니다.
• 거버넌스와 신뢰성: 기존 법(예: 방치된 선박에 대한 해군법)을 자율 AI 에이전트에 적용하고, 에이전트가 고유하고 신뢰할 수 있는 정체성을 갖도록 보장합니다.
• 모델 가치: AI의 '헌법'이 배포된 모델의 행동에 미치는 영향을 측정합니다.

AI 주도의 연구 개발

TAI는 AI 시스템이 자신을 개선하는 후속 버전을 개발하는 'AI 주도의 AI R&D'를 조사하고 있으며, 이는 순환적 자기 개선으로 이어질 가능성이 있습니다.

주요 연구 주제는 다음과 같습니다:

• AI R&D 거버넌스: 인간이 스스로 개선되는 AI 시스템에 대한 시각과 통제력을 어떻게 유지할 수 있는지 탐색합니다.
• 가속도 통제: '지능 폭발'의 속도를 늦추거나 변경할 수 있는 개입 지점을 식별하고, 그러한 권한을 누구(정부 또는 기업)가 행사해야 하는지 결정합니다.
• 텔레메트리: 순환적 자기 개선의 조기 경고 신호로 사용할 수 있는 AI R&D의 집계 속도를 측정하는 지표를 개발합니다.
• 일반 과학 연구: AI 주도 연구의 '기술 트리'를 분석하여 어떤 과학 분야가 더 빠르게 발전하고 있으며, 약물 개발과 같은 분야에서 발생하는 사회적 외부 효과를 어떻게 해결할 수 있는지 탐색합니다.

앤트로픽 운영과의 통합

앤트로픽 인스티튜트의 연구 결과는 앤트로픽의 기업 결정에 직접적인 영향을 미치며, 예를 들어 경제 지수와 같은 데이터 공유, 또는 프로젝트 글래스윙의 사이버 위협 분석과 같은 기술 출시 전략에 영향을 줄 것입니다.

또한, TAI의 연구는 장기적 이익 신뢰(LTBT)의 입력 자료로 활용되며, 이는 앤트로픽의 행동이 인류의 장기적 이익을 극대화하도록 보장하는 임무를 맡고 있습니다. 이러한 연구를 지원하기 위해 앤트로픽은 TAI 멘토링 하에 특정 연구 주제를 해결할 수 있는 연구자들을 대상으로 4개월간의 자금 지원을 제공하는 앤트로픽 펠로우십을 제공합니다.