Zico Kolter, OpenAI 이사회에 합류

OpenAI는 조직의 기술 거버넌스를 강화하기 위해 Zico Kolter를 이사회에 임명했습니다. Kolter는 AI 안전, 정렬 및 머신러닝 분류기의 견고성에 대한 폭넓은 전문성을 이사회 감독 기능에 제공합니다.

AI 안전 및 견고성에 대한 기술 전문성

Zico Kolter는 머신러닝 분류기의 견고성과 AI 시스템의 정렬에 대한 전문가입니다. 그의 기술적 기여는 다음과 같습니다:

  • 보장된 견고성: Kolter는 보장된 견고성을 가진 딥러닝 모델을 만드는 최초의 방법을 개발했습니다.
  • 제약 삽입: 그는 신경망 레이어 내에서 고전적 최적화를 사용하여 AI 모델에 강제 제약을 삽입하는 기술을 개척했습니다.
  • LLM 안전 평가: 2023년에 그의 팀은 대형 언어 모델(LLM)의 안전성을 평가하기 위한 자동 최적화 기술을 개발했으며, 특히 기존 모델 보호 장치를 우회할 수 있음을 보여주었습니다.
  • 모델 영향: 그의 연구에는 특정 데이터가 모델 행동에 어떻게 영향을 미치는지 이해하는 방법론과 새로운 딥 네트워크 아키텍처 개발이 포함됩니다.

OpenAI 거버넌스 및 안전·보안 위원회에서의 역할

Zico Kolter는 이사회에서 기술 이사로 활동하며, 특히 이사회 안전·보안 위원회에 합류합니다. 이 위원회는 모든 OpenAI 프로젝트에 걸친 중요한 안전 및 보안 결정에 대한 권고를 담당합니다.

Kolter가 합류하는 위원회 구성원:

  • Bret Taylor
  • Adam D'Angelo
  • Paul Nakasone
  • Nicole Seligman
  • Sam Altman (CEO)
  • OpenAI 기술 전문가

학문 및 직업 배경

Zico Kolter는 현재 카네기 멜론 대학교에서 컴퓨터 과학 교수이자 머신러닝 학과장을 맡고 있으며, 이 직책을 12년째 수행하고 있습니다. 그의 학력에는 스탠포드 대학교(2010)에서 컴퓨터 과학 박사 학위와 MIT(2010‑2012)에서의 박사후 연구원이 포함됩니다.

학계 외에도 Kolter는 여러 고위 산업 역할을 수행했습니다:

  • C3.ai: 전 수석 데이터 과학자.
  • Bosch: 현재 수석 전문가.
  • Gray Swan: 현재 이 AI 안전 및 보안 스타트업의 수석 기술 고문.

그의 연구는 NeurIPS, ICML, AISTATS 등 주요 학술 대회에 발표되었습니다.

Sources