Zico Kolter 加入 OpenAI 董事会

OpenAI 任命 Zico Kolter 加入其董事会，以加强组织的技术治理。Kolter 为董事会的监督职能带来了在 AI 安全、对齐以及机器学习分类器鲁棒性方面的丰富专业知识。

在 AI 安全与鲁棒性方面的技术专长

Zico Kolter 是机器学习分类器鲁棒性和 AI 系统对齐方面的专家。他对该领域的技术贡献包括：

• 保证鲁棒性： Kolter 开发了首批能够保证鲁棒性的深度学习模型方法。
• 约束嵌入： 他开创了在神经网络层中使用经典优化将硬约束嵌入 AI 模型的技术。
• LLM 安全评估： 2023 年，他的团队开发了自动化优化技术来评估大型语言模型（LLM）的安全性，特别展示了如何绕过现有模型的安全防护。
• 模型影响力： 他的研究包括用于理解特定数据如何影响模型行为的方法论，以及新深度网络架构的开发。

在 OpenAI 治理及安全与安保委员会中的角色

Zico Kolter 将在董事会担任技术董事，并专门加入董事会的安全与安保委员会。该委员会负责就所有 OpenAI 项目中的关键安全与安保决策提出建议。

Kolter 加入的委员会成员包括：

• Bret Taylor
• Adam D'Angelo
• Paul Nakasone
• Nicole Seligman
• Sam Altman (CEO)
• OpenAI technical experts

学术与职业背景

Zico Kolter 目前担任卡内基梅隆大学计算机科学教授兼机器学习系主任，已任职 12 年。他的学术背景包括斯坦福大学（2010 年）的计算机科学博士学位以及麻省理工学院（2010-2012 年）的博士后研究。

在学术之外，Kolter 曾担任多个高级行业职务：

• C3.ai： 前首席数据科学家。
• Bosch： 现任首席专家。
• Gray Swan： 现任该 AI 安全与安保初创公司的首席技术顾问。

他的研究已在包括 NeurIPS、ICML 和 AISTATS 在内的顶级会议上发表。