Garry Tan 呼吁美国开放权重实验室蒸馏前沿模型

核心观点

Garry Tan,Y Combinator 首席执行官,认为美国的开放权重人工智能实验室应被允许在无监管限制的情况下蒸馏前沿模型,主张这些专有模型中嵌入的知识源自公开数据,因此应属于公共领域。


Tan 的提议

  • 无需监管干预 – Tan 表示他会对蒸馏“不采取任何行动”,并建议美国可以建立一个“蒸馏制度”,鼓励而非阻止该行为。
  • 开放权重实验室作为制衡力量 – 他希望美国的中小型实验室利用蒸馏技术,开发出可替代中国起源模型的开放权重模型,从而扩大国内可自由获取的人工智能生态系统。
  • 道德层面的论述 – Tan 指出,前沿实验室在构建模型时未经许可就摄入了大量受版权保护的内容,因此限制他人提取知识是自相矛盾的。

"控制用户和客户对封闭权重模型 API 调用的行为感觉受到束缚,政府在此处可以发挥作用,以使一种共识正常化:那些基于广泛公开数据训练出的智能,本身也应被视为一种公共产品,而非被限制性服务条款所封锁的私有资源," Tan 告诉 TechCrunch。

背景:Anthropic 对蒸馏的担忧

  • Anthropic 发布了一份威胁情报报告,指控中国实验室进行“非法蒸馏攻击”,声称存在欺诈、被盗凭证和隐藏身份等问题。
  • Anthropic 首席执行官 Dario Amodei 呼吁美国监管机构遏制此类行为。
  • Tan 的立场直接反对这一监管推动,强调前沿实验室自身在训练数据使用上也未寻求许可。

Hacker News 社区反应

支持 Tan 观点的声音

  • kelnos:认为前沿模型是基于未经同意获取的受版权保护作品构建的,因此限制蒸馏只是在保护市场地位。
  • pton_xd:称若被阻止,蒸馏即为“反竞争行为”,呼吁建立由小型高效开放权重模型构成的生态系统。
  • gr_norm:将问题视为一种民主诉求:公众资助了数据,因此产出应成为公共产品。

批评与复杂性讨论

  • TheJCDenton(原发帖人):指出 Anthropic 要求有序蒸馏,却自身基于未经授权的数据构建模型,存在道德不一致。
  • dvt:预测前沿实验室可能在财务上不可持续,认为开放权重模型很快将能匹敌其能力。
  • matt3210:类比网络中立性,主张应保障对人工智能的访问权,而非设置门槛。
  • neilv:警告无节制的蒸馏可能嵌入隐藏偏见和未披露影响,呼吁真正的开源模型,而非“开放权重”的黑箱。
  • TZubiri:指出中国蒸馏常涉及违反服务条款(如多账户、被盗信用卡),提醒不应支持非法行为。
  • quicklywilliam:建议建立受监管的“公平价格”蒸馏制度,类似于电信光纤共享的强制规定。

法律与伦理维度

  • 合理使用论点 – 多位评论者(如 matt3210, nijave)认为蒸馏类似于《Cliff Notes》这类转化性作品,属于合理使用范畴。
  • 非法与合法蒸馏之别 – 争论焦点在于该过程是否仅涉及向模型提问(合法)还是违反服务条款并使用被盗凭证(非法)。
  • 公共产品逻辑 – Tan 的立场基于模型训练所用数据本属公众,因此衍生出的智能也应可自由再利用。

潜在经济影响

  • 模型商品化 – 若开放权重实验室能高效蒸馏前沿模型,大型实验室的竞争壁垒可能被削弱,价值将从模型所有权转向下游服务。
  • 成本结构 – 评论者指出,前沿实验室在数据获取上投入数十亿美元;开放权重实验室可以极低成本复制能力,重塑人工智能市场。
  • 监管俘获风险thedougd 警告,前沿实验室可能游说制定保护其专有优势的法规,因此 Tan 的提议可视为一种预防性对策。

展望

  • 政策格局 – Tan 呼吁建立“蒸馏制度”可能影响未来美国人工智能政策,或推动立法,在鼓励开放权重创新与防范非法行为之间取得平衡。
  • 行业动态 – 这场讨论暗示了分化趋势:大型前沿实验室可能继续深耕专有模型,而日益增长的开放权重实验室群体则可能通过蒸馏实现人工智能的民主化。
  • 开放权重的可行性 – 技术评论者(如 YuechenLi)指出,初始阶段后收益递减,意味着成功的蒸馏需要复杂的师生模型管道,而非简单的暴力提示。

核心结论: Garry Tan 倡导无限制蒸馏,将开放权重人工智能定位为对抗专有前沿模型的公共产品,引发了关于合法性、伦理及人工智能生态系统未来经济格局的激烈争论。

Sources

相关