Zico Kolter 加入 OpenAI 董事會

OpenAI 任命 Zico Kolter 加入其董事會，以加強組織的技術治理。Kolter 為董事會的監督職能帶來在 AI 安全、對齊以及機器學習分類器魯棒性方面的豐富專業知識。

在 AI 安全與魯棒性方面的技術專長

Zico Kolter 是機器學習分類器魯棒性與 AI 系統對齊的專家。他對該領域的技術貢獻包括：

• 保證魯棒性： Kolter 開發了首批能夠保證魯棒性的深度學習模型方法。
• 約束嵌入： 他開創性地使用經典優化於神經網路層中，將硬性約束嵌入 AI 模型。
• LLM 安全評估： 2023 年，他的團隊開發了自動化優化技術，以評估大型語言模型（LLM）的安全性，具體展示了如何繞過現有模型的防護機制。
• 模型影響力： 他的研究包括了解特定資料如何影響模型行為的方法論，以及新深度網路架構的開發。

在 OpenAI 治理與安全與安保委員會的角色

Zico Kolter 將擔任董事會的技術主管，並特別加入董事會的安全與安保委員會。該委員會負責就所有 OpenAI 專案的關鍵安全與安保決策提出建議。

Kolter 加入的委員會成員包括：

• Bret Taylor
• Adam D'Angelo
• Paul Nakasone
• Nicole Seligman
• Sam Altman（CEO）
• OpenAI 技術專家

學術與職業背景

Zico Kolter 目前擔任卡內基梅隆大學計算機科學教授及機器學習系主任，已任職 12 年。他的學術背景包括 2010 年取得斯坦福大學計算機科學博士學位，以及 2010-2012 年在麻省理工學院的博士後研究員職位。

除學術之外，Kolter 曾擔任多個高階產業職位：

• C3.ai： 前首席資料科學家。
• Bosch： 現任首席專家。
• Gray Swan： 現任此 AI 安全與安保新創公司的首席技術顧問。

他的研究已發表於包括 NeurIPS、ICML 與 AISTATS 在內的頂級會議。