Zico Kolter が OpenAI の取締役会に就任

OpenAI は、機械学習分類器のロバスト性と AI システムのアラインメントの専門家である Zico Kolter を取締役会の技術ガバナンス強化のために任命しました。Kolter は AI 安全性、アラインメント、機械学習分類器のロバスト性に関する豊富な専門知識を取締役会の監督機能にもたらします。

AI 安全性とロバスト性に関する技術的専門知識

Zico Kolter は機械学習分類器のロバスト性と AI システムのアラインメントの専門家です。彼のこの分野への技術的貢献は以下の通りです：

  • 保証されたロバスト性: Kolter は保証されたロバスト性を持つ深層学習モデルを作成するための最初の手法を開発しました。
  • 制約埋め込み: 彼はニューラルネットワーク層内で古典的最適化を使用し、AI モデルにハード制約を埋め込む手法を先駆けました。
  • LLM 安全性評価: 2023 年に、彼のチームは大規模言語モデル（LLM）の安全性を評価する自動最適化手法を開発し、既存のモデル保護策が回避可能であることを具体的に示しました。
  • モデル影響: 彼の研究は、特定のデータがモデルの挙動に与える影響を理解する手法や新しい深層ネットワークアーキテクチャの開発を含みます。

OpenAI ガバナンスにおける役割と安全・セキュリティ委員会

Zico Kolter は取締役会の技術ディレクターとして務め、特に取締役会の安全・セキュリティ委員会に参加します。この委員会は、すべての OpenAI プロジェクトにおける重要な安全・セキュリティの決定に関する提言を行うことを任務としています。

Kolter が参加する委員会には以下が含まれます：

  • Bret Taylor
  • Adam D'Angelo
  • Paul Nakasone
  • Nicole Seligman
  • Sam Altman (CEO)
  • OpenAI の技術専門家

学術的・職業的背景

Zico Kolter は現在、カーネギーメロン大学でコンピュータサイエンスの教授および機械学習部門の部長を務めており、このポジションは 12 年間務めています。彼の学術的資格には、スタンフォード大学（2010 年）からのコンピュータサイエンスの博士号と、MIT（2010〜2012 年）のポスドクフェローシップが含まれます。

学術界を超えて、Kolter はいくつかの高位の業界役職を務めてきました：

  • C3.ai: 元チーフデータサイエンティスト。
  • Bosch: 現在のチーフエキスパート。
  • Gray Swan: 現在、この AI 安全性とセキュリティのスタートアップのチーフテクニカルアドバイザー。

彼の研究は NeurIPS、ICML、AISTATS などの主要な学会で発表されています。

Sources