Paul Christiano OpenAI 재단 이사회 합류

Paul Christiano가 OpenAI 재단 이사회와 안전 및 보안 위원회(SSC)에 합류하여 AI 정렬(alignment) 및 정부 안전 표준에 대한 전문 지식을 제공합니다. 이번 임명은 프론티어 AI 모델을 평가하고 파괴적인 위험을 완화하는 데 경험이 풍부한 목소리를 추가함으로써 OpenAI의 거버넌스를 강화합니다.

거버넌스 역할 및 책임

Paul Christiano의 임명은 조직 구조 내에서 두 가지 주요 역할을 포함합니다:

  • OpenAI Foundation Board: Christiano는 OpenAI Group PBC의 통제권을 유지하는 자선 단체인 OpenAI Foundation Board의 위원으로 활동하게 됩니다.
  • Safety and Security Committee (SSC): 그는 Zico Kolter 의장과 함께 SSC에 합류하여 활동할 예정입니다. SSC는 OpenAI Group PBC를 포함한 조직 전체의 안전 및 보안 관행에 대한 거버넌스를 제공할 책임이 있습니다.
  • OpenAI Group PBC Board: 그는 이 이사회에서 투표권이 없는 참관인으로 활동하게 됩니다.

기술적 및 정부 전문 지식

Christiano는 기술적 정렬 연구와 정부 자문 경험을 결합하여 제공합니다:

  • 정부 경험: 그는 미국 상무부 산하 국립표준기술연구소(NIST) 내 Center for AI Standards and Innovation (CAISI)의 시니어 테크 어드바이저입니다. CAISI와 미국 AI 안전 연구소에서의 그의 업무는 프론티어 AI 모델, 특히 국가 안보에 영향을 미치는 모델을 평가하고 위험 완화 전략을 개발하는 데 중점을 두고 있습니다.
  • 정렬 연구: 그는 고급 AI 시스템을 인간의 이익과 일치시키는 데 중점을 둔 비영리 단체인 Alignment Research Center (ARC)의 설립자입니다. 이전에 2017년부터 2021년까지 그는 OpenAI에서 정렬 연구를 이끌었으며, 그곳에서 reinforcement learning from human feedback (RLHF)에 대한 기초적인 연구에 기여했습니다.

임명의 전략적 중요성

OpenAI는 AI 능력이 발전함에 따라 강력한 안전, 보안 및 거버넌스의 필요성이 증가한다고 강조합니다. Paul Christiano의 임명은 AI 안전장치에 관한 기존의 가정을 도전하는 기술적으로 근거가 있는 관점을 제공하기 위해 의도되었습니다.

OpenAI는 재단의 거버넌스가 고급 AI로부터 발생할 수 있는 파괴적인 위험의 가능성을 진지하게 받아들이고 업계의 현재 안전장치에 대해 독립적인 목소리를 내온 인물들을 포함함으로써 강화된다고 밝히고 있습니다.

Sources