Jun Kim 加入 Hugging Face,以支持 oMLX 和 MLX 社区

Hugging Face 已聘请 oMLX 的创建者兼维护者 Jun Kim,旨在为该项目及更广泛的 MLX 社区提供专门的支持和资金。此举旨在通过改善模型从 transformers 库到 MLX 实现的转换过程,简化本地 AI 在 Apple Silicon 上的部署。

对 oMLX 开发的影响

Jun Kim 将继续领导 oMLX,该项目仍将采用 Apache 2.0 许可证。oMLX 从一个副项目转变为 Hugging Face 旗下全额资助和维护的项目,旨在提供更高的稳定性并加快开发进度,从而更好地引导贡献者并进行长期规划。

MLX 生态系统的战略目标

Hugging Face 希望 oMLX 能够作为新想法的试验场,同时利用 mlx-lm 和 mlx-vlm 等现有的基础依赖项。其总体目标是通过提供必要的工具和构建块,消除社区以各种形式运行本地 AI 的障碍。

为了支持这一生态系统,Hugging Face 正专注于以下领域:

  • 简化模型转换: 一个主要重点是加速从 transformers 模型定义到参考 MLX 实现的过程。由于 transformers 库是 ML 模型定义的行业参考标准,简化这一流程可以让不同的引擎使用这些实现,并专注于其自身独特的功能。
  • 协作上游贡献: Hugging Face 旨在适当时将工作上游合并到相关项目中,加强与参与 mlx-lm、mlx-vlm 和 LMStudio 的团队之间的现有合作。

关于 MLX 和 Hugging Face 的背景

MLX 是 Apple 专门为 Apple Silicon 上的本地 AI 优化的框架。Hugging Face 作为中央 Hub,用户可以在此发现并贡献 MLX 模型,从而支持一个健康的开放式本地 AI 工具生态系统。

Sources