Noam Shazeer 加入 OpenAI

Noam Shazeer 加入 OpenAI

Noam Shazeer 是 seminal "Attention Is All You Need" 论文的合著者,也是 transformer 架构发展的关键人物,已加入 OpenAI。此举代表 OpenAI 的重大人才收购以及对 Google 的重大损失,特别是 Shazeer 最近才在一项高调交易中回到 Google。

职业轨迹及在 Google 的影响

Noam Shazeer 被广泛视为现代 AI 时代的基础工程师。他的贡献跨越了在 Google 工作的几十年,他在 2000 年加入 Google,并因其工程能力而成为传奇。

Transformer 架构

Shazeer 是 "Attention Is All You Need" 论文的主要作者,该论文提出了 transformer 架构,该架构驱动着当前几乎所有的大型语言模型(LLMs)。根据论文开发的记载,Shazeer 在将理论机制转化为可运行代码方面发挥了关键作用。

"这些理论或直觉机制,如自注意力,总是需要非常仔细的实现,通常由少数经验丰富的‘魔法师’来完成,才能产生任何生命迹象,”研究者 Uszkoreit 指出。Shazeer 被认为编写了他自己的 transformer 代码版本,采纳基本思想并不断改进直至可用。

最近任期及 Character.AI 交易

Shazeer 的职业生涯经历了离职与回归的复杂循环。他于 2021 年离开 Google 共同创立了 Character.AI。然而,在 2024 年,Google 通过一项据称价值约 27 亿美元的许可和人才交易,将他和其他 Character.AI 研究者召回。返回后,Shazeer 被任命为 Gemini 联合负责人。

行业影响及社区分析

Shazeer 从 Google 跳槽至 OpenAI 引发了关于 AI 人才竞争格局以及 Google 内部文化的广泛讨论。

人才 “自由代理”

业界观察者将当前的 AI 招聘状况与体育自由代理进行比较,指出在 OpenAI、Anthropic 和 Google 等主要实验室之间存在高调人才流动的模式。收购像 Shazeer 这样的“超级明星”工程师被视为一种战略举措,旨在不仅保障当前能力,而且确保在 transformer 之外架构的下一次突破的潜力。

对 Google 人工智能人才保留的担忧

Shazeer 的离职引发了人们对 Google 在拥有庞大资源的情况下仍能留住顶尖 AI 人才的能力的质疑。社区成员指出了几个潜在的系统性问题:

  • 文化与管理: 一些人认为 Google 的公司结构和管理可能阻碍其与更敏捷的实验室竞争的能力。
  • 产品性能: 有建议称 Gemini 在编码和代理能力方面的表现可能落后于最先进的模型,这可能影响领导层的变动。
  • 知识泄漏: 人们担心 Shazeer 的离职将导致 Google 的内部商业秘密和技术 know-how 向 OpenAI 的转移。

战略动机

关于此举的猜测包括与未来 OpenAI IPO 相关的潜在财务激励,以及希望在更有利于快速创新的环境中工作的愿望。一些观察者认为此举是一种 “PR 招聘”,旨在向 AI 人才战争中 OpenAI 的主导地位发出信号。

Sources