OpenAI 보조금: The Alignment Project

OpenAI는 영국 AI 보안 연구소(UK AI Security Institute, UK AISI)가 관리하고 Renaissance Philanthropy가 집행하는 글로벌 펀드인 The Alignment Project에 $7.5 백만 규모의 보조금을 제공했습니다. 이번 자금 지원은 최첨단 AI 연구소 밖에 존재하는 독립 연구자와 개념적 접근 방식을 지원함으로써 전 세계 정렬 연구 생태계를 다양화하는 것을 목표로 합니다.

자금 규모 및 배분

The Alignment Project는 이제 독립 정렬 연구를 위한 가장 큰 전용 자금 지원 노력 중 하나가 되었습니다. OpenAI의 약 £5.6 백만 기여는 다른 공공, 자선 및 산업 후원자들과 합쳐져 전체 펀드를 £27 백만 이상으로 확대했습니다.

자금은 다음과 같이 배분됩니다:

• Project Grants: 개별 프로젝트는 일반적으로 £50,000에서 £1 백만 사이의 지원을 받습니다.
• Support: 프로젝트는 선택적으로 컴퓨팅 자원 및 전문가 지원에 접근할 수 있습니다.
• Scope: 이 펀드는 계산 복잡도 이론, 경제 이론, 게임 이론, 인지 과학, 정보 이론 및 암호학을 아우르는 폭넓은 연구 포트폴리오를 지원합니다.

독립 연구가 AI 안전에 미치는 역할

독립 연구는 다양한 가정을 시험하고 단일 조직의 내부 로드맵과 일치하지 않을 수 있는 대안적 프레임워크를 개발할 수 있게 함으로써 AI 안전에 필수적입니다. OpenAI는 최첨단 연구소가 모든 유형의 유용한 탐구에서 비교우위를 유지하지 못한다는 점을 강조하며, 특히 기초적이고 개념적인 "blue‑sky" 아이디어에서는 그렇다고 밝히고 있습니다.

이번 투자는 현재 지배적인 정렬 방법이 기대만큼 확장되지 않을 가능성에 대비한 헤지 역할을 합니다. 상관관계가 없는 작업을 지원함으로써, 현재 기술적 접근 방식이 AI 능력 향상에 따라 지속 가능성을 입증하지 못하더라도 근본적인 돌파구가 확보될 수 있도록 생태계를 보장합니다.

프론티어 랩 연구와의 통합

OpenAI는 확장 가능한 방법과 반복적 배포에 초점을 맞춘 별도의 내부 정렬 노력을 유지하고 있습니다. 반복적 배포는 모델 능력을 점진적으로 높이면서 안전 장치를 강화해 문제를 조기에 드러내고 실제로 효과가 입증된 사례를 제공하는 과정을 의미합니다.

프론티어 연구소는 방대한 컴퓨팅 파워와 최첨단 모델 접근성을 필요로 하는 연구를 수행할 수 있는 독특한 위치에 있지만, OpenAI는 독립 연구를 보완적인 힘으로 보고 있습니다. 목표는 내부 연구와 외부 독립 연구가 병행하여 작동함으로써 AGI가 안전하고 유익하도록 하는 견고하고 다양성 있는 생태계를 구축하는 것입니다.

관리 및 선정 절차

이 보조금은 과학·혁신·기술부(DSIT) 산하 정부 연구 기관인 UK AISI를 통해 관리됩니다. OpenAI의 자금 지원은 새로운 선정 절차를 만들거나 기존 심사 과정을 좌우하지 않으며, 현재 라운드에서 이미 검증된 고품질 프로젝트의 지원 규모를 확대하는 역할을 합니다.

UK AISI는 정부, 학계, 자선 단체 및 산업계가 참여하는 기존의 교차 부문 연합과, 심도 있는 AI 위험에 초점을 맞춘 연구 자금 프로그램을 관리한 경험 및 기존 보조금 파이프라인을 보유하고 있어 이번 이니셔티브의 파트너로 선정되었습니다.